gpt4 book ai didi

python - Scrapy:没有到主机的路由,并且启用了持久支持

转载 作者:行者123 更新时间:2023-12-01 05:26:23 25 4
gpt4 key购买 nike

如果我正在运行启用了持久支持的爬网程序,并且我暂时失去了互联网连接。在临时断网期间,抓取工具是否会重试出现无主机路由错误的 URL?

最佳答案

是的。

Scrapy 使用 HTTP 1.1 客户端,默认情况下具有持久支持,并且在幕后(感谢 Twisted)它使用持久连接池,并在连接丢失时自动重试。

除此之外,当 Scrapy 收到请求的连接错误(超时、dns 错误、无路由等)时,RetryMiddleware 会负责重试该请求。请参阅http://doc.scrapy.org/en/latest/topics/downloader-middleware.html#module-scrapy.contrib.downloadermiddleware.retry

关于python - Scrapy:没有到主机的路由,并且启用了持久支持,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/21271334/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com