gpt4 book ai didi

ip - 爬虫/蜘蛛IP地址的良好来源

转载 作者:行者123 更新时间:2023-12-04 22:36:54 25 4
gpt4 key购买 nike

我在哪里可以找到 Crawler 或 Spider IP 地址的完整列表。我需要来自 google yahoo microsoft 和其他经常抓取我网站的搜索引擎的 IP。

我不想禁用它们,因此将 robots.txt 文件排除在答案之外。该列表用于对每个页面上的事件进行统计报告的过滤器。

请张贴可以使用的好资源的链接。付费或免费。

最佳答案

您可能不想通过 IP 地址执行此操作。大多数抓取工具在抓取您的网站时会发送一个唯一的用户代理字符串,您更有可能希望使用它来识别它们。我不知道你在哪里可以找到一个很好的 list

编辑:实际上 this我在谷歌上找到的页面似乎既回答了你的问题,也给了用户代理(这更有可能是一种更好的方法)

关于ip - 爬虫/蜘蛛IP地址的良好来源,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/4771037/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com