gpt4 book ai didi

scrapy - 如何根据条件停止爬行并关闭蜘蛛?

转载 作者:行者123 更新时间:2023-12-02 01:45:27 25 4
gpt4 key购买 nike

我有一个蜘蛛,它根据分页网页的特定日期范围获取最新的 url。当它获得所有最新的 url 时,我的蜘蛛程序必须关闭。
如何关闭蜘蛛?
我提到了问题:Force stop the spider
但是引发异常以关闭蜘蛛并不令我高兴。
有没有其他方法可以达到同样的目的?

最佳答案

你应该使用 Close Spider extension .

关闭爬虫的条件可以通过以下设置来配置:

CLOSESPIDER_TIMEOUT CLOSESPIDER_ITEMCOUNT CLOSESPIDER_PAGECOUNT CLOSESPIDER_ERRORCOUNT

关于scrapy - 如何根据条件停止爬行并关闭蜘蛛?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/25993214/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com