gpt4 book ai didi

drupal - 我可以告诉站点爬虫访问某个页面吗?

转载 作者:塔克拉玛干 更新时间:2023-11-03 02:28:48 26 4
gpt4 key购买 nike

我有一个围绕文档数据库的 drupal 网站。按照设计,您只能通过搜索站点找到这些文档。但是我希望所有结果都被 Googlebot 和其他爬虫索引,所以我在想,如果我制作一个列出所有文档的页面,然后告诉机器人访问该页面以索引我的所有文档会怎样?

这可能吗,或者有更好的方法吗?

最佳答案

也许是 Sitemap

Google introduced Google Sitemaps so web developers can publish lists of links from across their sites. The basic premise is that some sites have a large number of dynamic pages that are only available through the use of forms and user entries. The Sitemap files can then be used to indicate to a web crawler how such pages can be found. Google, Bing, Yahoo and Ask now jointly support the Sitemaps protocol.

关于drupal - 我可以告诉站点爬虫访问某个页面吗?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/3037735/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com