gpt4 book ai didi

python - django 中的 robots.txt 警告是什么,建议如何处理?

转载 作者:行者123 更新时间:2023-12-04 01:57:47 26 4
gpt4 key购买 nike

我在本地主机(开发机器)上运行 Django,我在调试控制台中遇到了这个问题:

Not Found: /robots.txt
2018-03-20 22:58:03,173 WARNING Not Found: /robots.txt
[20/Mar/2018 22:58:03] "GET /robots.txt HTTP/1.1" 404 18566

这是什么意思,是否有任何建议来处理这个权利。也在生产服务器上。

最佳答案

robots.txt 是网络爬虫(例如搜索引擎使用的网络爬虫)的标准,告诉它们应该为哪些页面编制索引。

要解决此问题,您可以静态托管您自己的 robots.txt 版本,或使用类似 django-robots 的包.

除非您或您的浏览器试图明确访问它,否则您会在开发过程中看到错误,这很奇怪。

在生产中,如果您关心 SEO,您可能还想为每个搜索引擎设置网站管理员工具,例如:Google Webmaster Tools

https://en.wikipedia.org/wiki/Robots_exclusion_standard

https://support.google.com/webmasters/answer/6062608?hl=en

关于python - django 中的 robots.txt 警告是什么,建议如何处理?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/49395533/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com