gpt4 book ai didi

php - 不需要的页面爬行

转载 作者:行者123 更新时间:2023-12-04 05:19:28 24 4
gpt4 key购买 nike

这个问题在这里已经有了答案:




8年前关闭。




Possible Duplicate:
How to detect fake users ( crawlers ) and cURL



我网站的某些页面被恶意抓取。

说页面喜欢

abc.com/smarty/templates/1.html

abc.com/smarty/templates/2.html

abc.com/images/1.jpg

abc.com/images
  • 我想避免索引这些页面
  • 还想从谷歌索引中删除这些页面。

  • 我知道使用 apache 设置来执行此操作。但是由于我使用的是共享网络,因此我无法访问这些。

    请帮忙

    最佳答案

    您可以使用一个文本文件robots.txt,搜索引擎会找到该文件,并告诉他们在您的网站中哪些页面可以编入索引,哪些页面不能编入索引。

    这是一篇关于如何编写此文件的好文章:
    Robots.txt: What it is, Why it’s Used and How to Write it

    讨论了从 Google 中删除页面 here

    关于php - 不需要的页面爬行,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/13824738/

    24 4 0
    Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
    广告合作:1813099741@qq.com 6ren.com