在站长工具里看到死链,先要分清它反映的是哪一类问题:是抓取阶段就失败了,还是页面已被抓取但索引结果异常。前者看的是爬虫能否访问、返回什么状态码;后者看的是搜索引擎是否收录、以什么形式收录。两者处理方式不同,不能只看一个总数就下结论。
抓取是搜索引擎请求页面的过程。如果服务器返回 404 或 410,说明这个地址在抓取阶段就没有可用内容,属于典型的访问抓取失败。返回 301、302 则说明地址发生了跳转,要顺着跳转链检查最终落点是否有效。
这里要区分“可能原因”和“已经定位的原因”。一个死链报告可能来自链接写错、内容下线、服务器故障或屏蔽规则,未逐项核对前不要认定是单一原因。
索引是搜索引擎把抓取到的内容处理后纳入结果库的过程。抓取成功不等于被索引。常见检查项包括:
site: 查询目标地址,看是否出现在结果中。noindex 指令,它会让页面即使被抓取也不进入索引。robots.txt 是否限制了抓取,但要注意:robots.txt 的限制不等于可靠的索引移除,被屏蔽的页面仍可能因外部链接出现在结果里。如果页面返回 200、没有 noindex,却长期不收录,问题通常在内容质量、重复度或站点整体信任度,而不是死链本身。
面对一条死链记录,按下面顺序操作,能较快判断它属于抓取问题还是索引问题:
site: 或索引检查工具确认是否收录。这个流程的适用条件是:你已有页面或项目,需要在原有基础上改进。判断结果是——返回非 200 优先修抓取;返回 200 但不收录,优先修索引与内容。
抓取层面的验收标准是:目标 URL 返回 200,无异常跳转,服务器日志中爬虫请求正常。索引层面的验收标准是:页面出现在搜索结果中,或至少不再被标记为抓取错误。两者不能混用同一套指标。
站点地图不保证收录,HTTPS 也不保证安全无漏洞或排名。不同搜索引擎对索引指令的支持情况须分别核查,不能拿一个平台的结果直接推断另一个平台。
下一步:从死链报告中挑出返回 200 的条目,单独建一张索引检查表,逐条确认收录状态,再决定是改内容还是改链接。