谷歌:爬行率&爬行需求=爬行预算

谷歌:抓取率和抓取需求=抓取预算|(2)由Barry Schwartz|在谷歌搜索引擎优化Prev故事下故事推特分享Prev故事下故事

几个星期前,谷歌告诉我们抓取预算不是我们认为的那样,并承诺写一篇博客文章解释谷歌定义为抓取预算。Gary Illyes在谷歌博客上发表了关于爬行预算对谷歌机器人的意义。

简而言之,“抓取速度和抓取需求结合在一起”,谷歌表示,这就是他们如何“将抓取预算定义为谷歌机器人能够和想要抓取的url数量”。

抓取速率限制是谷歌机器人允许自己抓取你的页面,以不超载你的服务器和造成伤害。它是“谷歌机器人抓取站点时可能使用的并发连接数,以及两次抓取之间的等待时间。”谷歌不会爬太多来关闭您的服务器,它将尊重您在谷歌搜索控制台中设置的限制。

抓取需求是谷歌抓取页面的需求,包括新页面和旧页面。需求是由站点和url的受欢迎程度决定的,谷歌系统试图防止url在索引中变得过时。即使你有更多的爬行率,如果需求不需要更多的爬行,GoogleBot也不会爬行。

谷歌说,这两个组成了爬行预算。谷歌写道:“将抓取率和抓取需求结合起来,我们将抓取预算定义为谷歌机器人能够和想要抓取的url数量。”什么会影响爬行预算?

分面导航和会话标识符现场重复内容软错误页面黑页面无限空间和代理低质量和垃圾内容

爬行率不是排名因素,谷歌说。谷歌写道:“增加的抓取率并不一定会带来更好的搜索结果。谷歌使用数百个信号来对结果进行排名,虽然爬行是进入结果的必要条件,但它并不是一个排名信号。”

在博客文章中了解更多细节和更多常见问题。

论坛讨论在Twitter和谷歌+。