seo - 如果我使用的是 Apache 2,我应该如何处理使用 HTTP/0.9 的蜘蛛/网络爬虫?

标签 seo web-crawler apache2.2

我使用 Apache 2 提供内容,Bing Bot 使用 HTTP/0.9 从我的服务器请求页面,该服务器不提供直接 IP 主机。

如果我不知道他们想要哪个主机,但仍然需要他们为我的网站编制索引,我应该如何处理蜘蛛?

我目前返回 400 Bad Request,但我的网站不会被 Bing 或 Yahoo 编入索引,这让我很紧张。

谢谢

最佳答案

[SOLVED]: I have been returning 400 Bad Request and Bing/Yahoo have taken the hint.

关于seo - 如果我使用的是 Apache 2,我应该如何处理使用 HTTP/0.9 的蜘蛛/网络爬虫?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/10049028/

相关文章:

reactjs - 按语言的动态站点地图

php - 基于 PHP 语言的 URL 别名

php - 为用户语言重定向索引的最佳 SEO header 状态

python - 部署scrapy项目时出错

java - Tomcat7 状态在 Windows 服务中停止

javascript - 使用 javascript/jquery 捕获搜索词

javascript - 过滤掉广告系统的机器人和蜘蛛。封锁太过分了

multithreading - 线程是否违反 robots.txt?

mongodb - MongoNetworkError : failed to connect to server [amazonaws. com:27017] 首次连接时 [错误:无法获取本地颁发者证书

windows - 如何在 windows web 服务器 2008 R2 64 位上加密 SSL paypal 按钮,