robots.txt - "User-agent: * Disallow:/"是什么意思?

标签 robots.txt

关闭。这个问题不满足Stack Overflow guidelines .它目前不接受答案。












想改善这个问题吗?更新问题,使其成为 on-topic对于堆栈溢出。

7年前关闭。




Improve this question




在/robots.txt 页面上,这是什么意思?

User-agent: * 
Disallow: / 

这是否意味着您无法在搜索引擎上搜索并获得该网站的结果?例如它会阻止谷歌吗?

最佳答案

它阻止(好的)机器人(例如 Googlebot)索引任何页面。

来自 this page :

The "User-agent: *" means this section applies to all robots. The "Disallow: /" tells the robot that it should not visit any pages on the site.

There are two important considerations when using /robots.txt:

  • robots can ignore your /robots.txt. Especially malware robots that scan the web for security vulnerabilities, and email address harvesters used by spammers will pay no attention.
  • the /robots.txt file is a publicly available file. Anyone can see what sections of your server you don't want robots to use.

关于robots.txt - "User-agent: * Disallow:/"是什么意思?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/22080016/

相关文章:

php - BOT/蜘蛛陷阱的想法

Angular2 + webpack 不部署robots.txt

robots.txt - Robots.txt允许子文件夹但不允许父文件夹

seo - Robots.txt 被正则表达式禁止

user-agent - robots.txt 中指令的顺序,它们是相互覆盖还是相互补充?

google-maps - Google maps API robots.txt 文件拦截抓取

seo - robots.txt:禁止除了少数几个,为什么不呢?

javascript - 我如何从谷歌索引中隐藏查询字符串?

web-crawler - 我应该对robots.txt中不区分大小写的目录使用不同的大小写拼写吗?

seo - 我已经禁止一切 10 天