gpt4 book ai didi

search - 在 robots.txt 开头禁止所有机器人后,指定指令是否会产生异常?

转载 作者:塔克拉玛干 更新时间:2023-11-03 02:35:52 26 4
gpt4 key购买 nike

案例如下:

User-agent: *
Disallow: /

User-agent: Googlebot
Disallow: /test

在这种情况下,Googlebot 是否能够完成它的工作?

我想也许是因为该文件只指定不允许对 Googlebot 进行/test,所以 Googlebot 可以在除/test 之外的其他目录上执行它们的工作?

最佳答案

问题:在这种情况下,Googlebot 是否能够完成它的工作?

回答:不是这种情况

User-agent: *
Disallow: /

问题:我想也许是因为该文件只指定不允许对 Googlebot 进行/test,所以 Googlebot 可以在除/test 之外的其他目录上执行它们的工作?

回答:完全正确

关于search - 在 robots.txt 开头禁止所有机器人后,指定指令是否会产生异常?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/53381967/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com