gpt4 book ai didi

seo - 这个 robots.txt 是什么意思?它不允许任何机器人吗?

转载 作者:塔克拉玛干 更新时间:2023-11-03 02:39:15 26 4
gpt4 key购买 nike

User-agent: *
Disallow:
Disallow: /admin
Disallow: /admin
Sitemap: http://www.myadress.com/ext/sm/Sitemap_114.xml

我在我网站的根文件夹之一中找到了这个 robots.txt 文件。我不知道我做到了,也不知道是谁做到了。

我认为这个文件不允许任何机器人管理文件夹。这很好。

但我想知道这是否会阻止所有漫游器访问我网站上的所有文件?

我已经用这个文件改变了它:

User-agent: *
Disallow: /admin
Allow: /
Sitemap: http://www.myadress.com/ext/sm/Sitemap_114.xml

ps:本站好久没有索引了。是旧文件的问题吗?

最佳答案

除了重复的/Admin 条目外,旧脚本是正确的。没有 Allow: 命令,空的 'Disallow:' 向机器人开放站点。

http://www.free-seo-news.com/all-about-robots-txt.htm

具体来说,检查“您应该避免的事情”下的第 7 项和“提示和技巧”下的第 1 项

关于seo - 这个 robots.txt 是什么意思?它不允许任何机器人吗?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/7153932/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com