技术SEO

当你不小心从谷歌删除你的网站索引时会发生什么

2019年8月4日

那是个周日早上。我像往常一样喝咖啡,摆弄着引擎优化工具,没想到会发生什么鬼东西。然后......砰!

见鬼了吗?

作为SEO,我们都习惯了看到排名的自然波动,而不是消失。

步骤1:否认事实

我立刻产生了一个想法:这是一个错误。所以我用了一些其他工具来确认Ahrefs是不是疯了。

Google Analytics也显示流量在相应地下降,这说明了肯定有什么东西正在上升。作为一名SEO,我自然会做最坏的打算.....

第2步:算法恐慌

算法更新。求你了,请不要让它变成算法更新。

我点开Barracuda的Panguin工具,看看我们的问题是否与确认的更新同时发生。

并没有更新。

步骤3:诊断问题

我终于回过神来,想清楚到底发生了什么:关键词排名完全消失是非常罕见的,它必须是技术性的。

它必须是索引。

用谷歌快速搜索那些失去关键字排名的页面,可以确认这些页面实际上已经消失了。搜索控制台报告了相同的情况:

注意底部的警告:“机器人”元标签中检测到“无索引”

现在我们有点进展了方。接下来,是时候在源代码中确认这一发现了。

我们的页面被标记为取消索引。但到目前为止,实际上有多少页被删除了索引呢?

第4步:调查损失

确认了周四晚上(2019年8月1日)部署意外地将noindex代码推送到每个页面上。

但整个网站都被删除索引了吗?

这不太可能,因为为了做到这一点,谷歌必须在三天内抓取网站的每个页面才能找到“无索引(noindex)”标记。搜索控制台在这方面没有起到任何帮助,因为它的数据总是滞后的,在修复更改之前可能永远不会发生变化。

即使现在回顾过去,我们也看到搜索控制台最多只能接收249个受影响页面,其中有超过8,000个索引页面。考虑到事件解决后整整一周我们的搜索人数减少了三分之一,这是不可能的。

注意:我永远无法确定谷歌中有多少页面被完全取消索引,但我所知道的是,每个页面都有“无索引”标记,我模糊地记得在谷歌搜索“site:brafton.com”,看到我们大约八分之一的页面被索引。

恢复方案

第1步:解决问题

一旦发现问题,我们的开发人员将更新回滚(rolled back),并像“无索引”标记之前一样实时推送网站。接下来是重新索引我们的内容的问题。

第2步:尽快重新划分网站

我删除了旧的网站地图,构建了一个新的网站地图,并重新上传到搜索控制台。我还抓取了我们的大部分核心产品登录页面,并手动请求重新索引(自最近的SC更新以来,我不认为这有什么作用)。

第3步:等待

在这一点上,除了等待,我们别无选择:

  • 页面的关键词排名会与之前相同吗?
  • 他们的排名会保持不变吗?
  • 谷歌会以某种方式“处罚”短暂消失的页面吗?

只有时间才能证明一切。

2019年8月8日(1周):流量下降33%

第一次测量需要7天,自8月2日至8月8日。

搜索控制台可能会给我最好的指示,说明我们的搜索存在遭受了多少损失。

我们损失了大约33.2%的搜索流量。

幸运的是,这将标志着我们在整个磨难过程中遭受的破坏已到达峰值。

2019年8月15日(2周):流量下降23%

在此期间,我一直在关注两件事:搜索流量和索引页面。尽管重新提交我的网站地图并在搜索控制台中手动获取页面,但许多页面仍然没有被索引——甚至核心登录页面。这将成为贯穿整个时间轴的主题。

考虑到我们剩余的未索引页面,我们的流量仍然很糟糕。

事件发生两周后,我们的营收仍然下降了8%,营收转化率随流量下降(尽管转化率有所上升)。

2019年8月22日(3周):流量下降13%

我们的页面仍然索引仍然很缓慢。当我看着营收目标低于基线,痛苦依旧持续着。

至少很明显,我们的搜索正在恢复。但我特别想知道的是它是如何恢复的。

所有页面是否都被重新索引,但搜索会存在减少吗?

只有部分页面重新索引并完全恢复搜索存在吗?

为了回答这个问题,我查看了单独取消索引和重新索引的页面。以下是其中一个页面的示例:

以下是一个页面在更短时间内取消索引的示例:

在我能找到的每个实例中,每个页面都完全恢复到原来的搜索位置。所以这似乎不是页面是否会恢复的问题,而是页面何时重新索引的问题。

说到这里,搜索控制台有一个新功能,它将“验证”错误页面。我于8月26日开始这个过程。此后,SC慢慢地(我想)将这些页面重新整理,每周约10页。这比正常的爬行速度还快吗?SC中的这些工具有什么作用吗?

我确信,三周后仍有许多页面被删除,包括我曾指望用来增加流量的商业登陆页面。稍后再详细介绍。

2019年8月29日(4周):流量下降9%

在这一点上,我非常沮丧,因为只剩下大约150页需要重新索引,无论我在搜索控制台中检查和请求多少次新的索引,它都不会起作用。

这些页面完全可以进行索引(如SC URL检查报告的那样),但它们不会被抓取。因此,近一个月后,我们仍然比基线低9%。

一个特定的页面只是拒绝重新索引。这是一个高商业价值的产品页面,我指望它进行转换。

在我试图强制重新索引时,我尝试:

  • URL检查和请求索引(每月15次)。
  • 更新发布日期,然后请求索引。
  • 更新内容和发布日期,然后请求索引。
  • 将站点地图重新提交到SC。

什么都没用。此页面不会重新索引。同样的事情发生在其他100多个商业影响力较小的网址上。

注:本页面要到10月1日才重新索引,即取消索引整整两个月后。

顺便说一句,四周后我们的总体复苏进展如下:

2019年9月5日(5周):流量下降10.4%

此时,我们已经重新索引了所有页面,除了大约150个被“验证”的页面。

看起来我们可能会完全恢复,但时机掌握在谷歌手中,我无能为力。

2019年9月12日(6周):流量增长5.3%

我们花了大约六周时间才完全恢复用户流量。

但事实上,我们仍然没有完全恢复流量,因为一些内容的表现超出了预期,对一些尚未索引的页面进行了过度补偿。值得注意的是,我们的产品页面将在大约2.5周内无法索引。

总的来说,我们的搜索范围在六周后恢复了。但是,直到解决问题八周多后,我们的内容才被完全重新索引。

结论

对于初学者来说,绝对不要因为意外情况、实验或任何其他原因而取消网页的索引,这是血泪的教训。我估计,我们失去了大约12%的自然流量,相当于同等比例的商业转换率下降。

我们学到了什么

一旦页面被重新索引,它们在搜索可见性方面就完全恢复了。最大的问题是让他们重新被索引。

我们通过这个意外的实验,回答了一些主要问题:

我们恢复了吗

是的,我们完全恢复了,所有URL似乎都驱动了原本的搜索可见性。

花了多长时间

六周后,搜索可见性恢复到基线。所有页面在大约八到九周后重新索引。