gpt4 book ai didi

linux - 仅重定向 Google 机器人

转载 作者:太空宇宙 更新时间:2023-11-04 04:25:00 26 4
gpt4 key购买 nike

有没有办法只重定向 Google 机器人而不是人类?

我有一个排名非常好的页面,但如果直接在 URL 中输入而不是通过搜索引擎列表输入,我希望使其保持可用

这可以通过 .htaccess 或 robots.txt 实现吗?

最佳答案

不要仅仅依赖robots.txt。并非所有爬虫都尊重这一点。

您可以查找某些表明您的网络服务器正在被机器人访问的迹象,并为其提供您选择的 HTTP 响应。

示例:我因 Yandex Bot 的频繁访问而感到困扰:

RewriteCond %{HTTP_USER_AGENT} Yandex [NC]
RewriteRule .* http://go.away [L,R=301]

关于linux - 仅重定向 Google 机器人,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/9883300/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com