asp.net - 如何在搜索引擎结果中隐藏 Robots.txt?

标签 asp.net iis seo robots.txt search-engine-bots

<分区>

我不想在搜索结果列表中看到 Robots.txt。我正在处理一个 asp.net 项目。

我发现了一些失败的解决方案,其中之一如下:

  • Using "X-Robots-Tag" in header.

但我想隐藏一个 txt 文件,所以里面没有“标题”部分。

感谢您的帮助。

最佳答案

大写字母对于大多数流行的搜索引擎都很重要,包括 Google ( source )。将文件名从 Robots.txt 更改为 robots.txt。如果命名正确,大多数流行的搜索引擎(Bing、Yahoo、Google 等)都不会为它编制索引。您无需付出额外的努力。

Here是描述区分大小写的 Yahoo 爬虫帮助。

Here是描述爬虫对 robots.txt 的普遍礼貌的标准。明确指出空的 robots.txt 文件将被完全忽略,并且它们不被索引是常识。否则,我们将在 Google 中看到数十亿个 robots.txt 搜索结果。

关于asp.net - 如何在搜索引擎结果中隐藏 Robots.txt?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/21758036/

相关文章:

iis - 异常消息 : WebSockets is unsupported in the current application configuration

windows - IIS 多个站点在同一个 ip 上,具有不同的 ssl

apache - 使用 htaccess 重定向,同时避免搜索引擎惩罚

c# - div 背景颜色在 Firefox 中不起作用

javascript - 在 SweetAlert 中传递 ASP.NET 按钮单击事件

javascript - SignalR - 多个集线器 - 单独启动连接

c# - 每次加载页面时调用自定义 UrlAuthorization 模块

http - 多次重定向

c# - 如何将 'text slug' 添加到 MVC3 中的页面 url?

asp.net - 使用 TempData ["id"] 是否比使用隐藏字段来跟踪往返 HttpGet 和 HttpPost 之间的 id 更安全?