seo - 允许搜索引擎抓取网站的最佳方式

标签 seo search-engine web-crawler

<分区>

感谢阅读我的问题。我正在建立一个网站,该网站将列出每个制造商的产品。我计划将 URL 结构化为以下变体:

www.mysite.com/manufacturer_name/product_name/product_id

www.mysite.com/product_name/product_id

www.mysite.com/manufacturer_name

有数百万种产品,我希望所有主要搜索引擎都能抓取它们。这样做的最佳方法是什么?

简单地向所有搜索引擎提交站点就足够了吗?我假设如果我提交列出所有制造商名称的制造商页面作为链接,搜索引擎将点击每个链接并点击每个制造商链接中显示的所有产品(我将对产品进行分页)以便搜索引擎可以继续在网站上抓取每个制造商的更多产品,直到用完页码。

是否足以在每个搜索引擎上列出每个产品?还是有一种新的更好的方法来做到这一点?可能有我不知道的新 SEO 技巧。我希望你能指出正确的方向。

我以前使用 robot.txt 来告诉搜索引擎要抓取哪些页面,这似乎工作正常。

谢谢, 糟糕的编码

最佳答案

提交 XML 站点地图。最简单的方法是在您的 robots.txt 文件中链接到它。

示例 robots.txt 文件:

Sitemap: http://example.com/sitemap_location.xml

参见 Submitting Sitemaps从 Google 获取有关此主题的更多信息

关于seo - 允许搜索引擎抓取网站的最佳方式,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/13408729/

相关文章:

permissions - 企业搜索如何为用户显示结果并隐藏未经授权的结果?

ip - 爬虫/蜘蛛IP地址的良好来源

python - ScrapyJs(scrapy+splash)无法加载脚本,但splash服务器运行良好

subdomain - 为搜索引擎配置语言域 - SEO

asp.net-mvc-3 - 自定义 MVC3 SEO 友好网址

php - 使用 modRewrite 将 php 重写为 html 后,登录页面不再工作

indexing - 如何从 heritrix 爬网中排除除 text/html 之外的所有内容?

seo - 在 .htaccess 中重写 url

html - 内联 SVG - 通常用于 < img > SEO 的 "alt"标签的最佳替代品?

用于网络排名和搜索引擎的 C++ 库