是否有其他方法可以告诉 Bing 不要抓取/传递/点击/输入某个链接,例如 google 的 rel=nofollow?
msnbot/2.0b 不断陷入我的机器人陷阱。它不遵守 anchor 标记 rel="nofollow"。
限制:
- 我无法将链接添加到 robots.txt,因为该链接是动态参数键,即 任何page.php?xirh398。每个 session 的 key 都是唯一的,并且每 5 分钟更改一次。
- 我无法使用元标记,因为陷阱不是页面。
- 我无法使用 HTTP header ,因为届时该机器人已被禁止。
- 我不想不断更新白名单。
最佳答案
It does not obey anchor tag rel="nofollow".
nofollow
表示“不要在搜索结果中赋予此链接权重”。这并不意味着“这不是真正的链接,请勿点击它”。 (是的,这是不直观的)。
如果您希望 Good Bot 远离您网站的某个部分,use a robots.txt
告诉他们这件事。
关于php - 如何让 msnbot 不会落入我的机器人陷阱?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/15340801/