2013-04-06 335 views
-1

如何在Scrapy(python)中设置线程池大小?在Scrapy中设置线程池大小

+0

scrapy没有一个线程池。你的意思是如何增加并发请求的数量 - 在文档中有几个设置覆盖了这一点。 – 2013-04-07 09:01:49

回答

4

由于Scrapy不使用多线程,而是使用所谓的底层异步HTTP框架Twisted你说的肯定是你有多少蜘蛛可以同时运行?请参阅CONCURRENT_REQUESTS文档。 默认:16