要取得可复查的状态证据,核心是让每一次死链接检测都留下“时间、请求地址、响应状态、跳转链、判定依据”五类记录,并保证别人按同一份记录能复现同一结论。只截图“404页面”不算证据,因为无法确认请求的是哪个URL、是否经过跳转、当时返回的是404还是软404。可行做法是:用脚本或爬虫批量请求站内链接,把每个URL的最终状态码、重定向次数和最终落地地址写入CSV,再人工抽查争议项。
死链接检测的判定标准不同,证据形态也不同。常见三类需要分开记录:
把标准写进检测脚本或检查表,复查者才能判断某条记录为何被标为死链接。
无论用哪种工具,导出的记录至少应包含以下字段,缺一项都会削弱可复查性:
checked_at:检测时间,精确到分钟,便于区分不同批次。source_url:发现该链接的页面地址。target_url:被检测的链接地址,保留原始大小写和查询参数。status_code:首次响应状态码。redirect_chain:按顺序记录每一次跳转的地址与状态码。final_url与final_status:最终落地地址及其状态码。verdict:判定结果,如“死链接”“疑似软404”“正常”。evidence_note:判定理由,例如“最终状态410”“标题含‘页面不存在’”。如果使用命令行工具,可把响应头原始内容一并存档。原始响应头比二次整理的表格更难被质疑,复查者可以直接看到HTTP/1.1 404 Not Found这类状态行。
假设站点有约200个内部链接需要检查,时间和人手有限,可以按下面步骤执行:
Location头;对返回200的页面再抓取标题和正文前若干字符。deadlink-2025-06-01.csv。复查者拿到这份目录后,可以重新请求同一批URL,对比状态码是否变化。如果状态码从404变为200,说明链接已被修复或内容已恢复;如果仍为404,则原判定成立。
时间和人手有限时,不要平均用力。按“影响面×可验证性”排序:
判断依据是:来源页面越重要、死链接被引用的次数越多,修复后能减少的无效请求就越多。这个排序不依赖任何排名承诺,只依赖可统计的引用次数和页面位置。
同一现象可能有多种解释,记录时要避免断言唯一原因。例如某URL返回404,可能是页面已删除,也可能是服务器临时故障、权限配置变化或请求头被拦截。复查时应:
robots.txt是否禁止抓取该路径。需要说明的是,robots.txt的抓取限制不等于可靠的索引移除,它只约束爬虫行为,不能作为“链接已死”的证据。把这些可能原因写进备注,而不是只写“404,已死”,复查者才能区分“可能原因”和“已经定位的原因”。
下一步:选一个栏目,按上述字段导出一份检测记录,先对导航和页脚链接完成一轮检测与复核,把CSV和原始响应头存档,再根据引用次数决定修复顺序。