http - 如何在robots.txt中添加 `nofollow, noindex`所有页面?

标签 http robots.txt access-control

我想在构建网站时将nofollownoindex添加到我的网站。客户有要求我使用这些规则。
我知道

<meta name="robots" content="noindex,nofollow">
但是我只能访问robots.txt文件。
有人知道我可以通过noindex, nofollow文件应用robots.txt规则的正确格式吗?

最佳答案

noindex和nofollow表示您不希望您的网站在搜索引擎中爬网。
所以只需将代码放在robots.txt中

User-agent: *
Disallow: /
这意味着noindex和nofollow。

关于http - 如何在robots.txt中添加 `nofollow, noindex`所有页面?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/45790024/

相关文章:

php - 在 swift 2.0 中通过 .php 发送 POST 消息

ios - 平衡支付的 401 权限错误

apache - 防止 googlebot 索引 robots.txt 和 .htaccess 中的文件类型

django - 将 robots.txt 添加到我的 Django 应用程序是被 Google 列出的方式吗?

security - 我需要担心 Stripe "payment_intent_client_secret"泄漏吗?

ruby-on-rails - Rails 简单访问控制

java - Java 中的 HTTPS 以奇怪的结果结束

java - 将 HTTP "_method" header 传递给 matlab 中的 urlread2 函数

seo - 我的项目根目录中的 Robots.txt

javascript - 从 Sails 中的模型内部获取当前用户