robots.txt 内容本身是否已编入索引?

标签 robots.txt google-crawlers google-index

关闭。这个问题是off-topic .它目前不接受答案。












想改善这个问题吗? Update the question所以它是 on-topic对于堆栈溢出。

9年前关闭。




Improve this question




我的 robots.txt 文件的内容本身实际上已编入索引并显示在 Google 搜索结果中。例如,只有谷歌而不是雅虎。
我真的觉得谷歌应该懂不是 索引 内容 我的机器人文件,因为它只是告诉 Google 什么不索引! 我在这里错过了什么吗?

最佳答案

这是正常的。我的也被索引了几个月前。我认为这是爬虫的问题。 编辑:顺便说一句,您可以删除网站管理员工具网站上的链接。

关于robots.txt 内容本身是否已编入索引?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/8048826/

相关文章:

seo - Google SEO 防止脏参数

无法理解 Robots.txt 语法

seo - Vaadin 7 使应用程序 SEO 准备就绪

url - URL 路径中的双斜杠 - 不好的做法?

meta-tags - 阻止 Google 建立索引

seo - 所有搜索引擎都接受 sitemap.axd 吗?

.htaccess - 仅允许通过 http 访问 robots.txt,其他通过 https 访问

seo - 如何清除谷歌搜索控制台 404 未找到快速方法?

javascript - 为什么搜索引擎爬虫不运行 javascript?

seo - 仅允许 Googlebot 将所有内容编入索引