去重的关键不是把页数压到与对象数量相同,而是先判断“页数”统计的是什么单位。若报告按URL计页,而你的实际对象是文章、商品或栏目,一个对象对应多个URL时就必然多页;此时应按对象键归并,而不是逐页删除。
假设你负责一个内容站,用某款综合查询工具导出一份报告:报告显示280页,但你从后台确认实际只有200篇文章。差异来自同一篇文章存在PC页、移动页、带参数页或分页版本。这里“280”是URL条数,“200”是内容对象数,两者都没有错。
你要做的决定是:把280条URL合并成200个对象,还是保留280条URL分别观察。选择取决于下一步动作——如果目标是统计每篇文章的收录与标题变化,应合并;如果目标是检查移动端与PC端是否各自可访问,则不应合并。
打开导出文件,看是否存在这些字段:url、canonical、title、item_id、page。如果只有url和title,页数就是URL数;如果存在item_id或canonical,就有条件按对象归并。
canonical指向多个URL:这些URL属于同一对象,可归并。item_id出现在多行:这些行是同一对象的不同页面版本。这一步的实际动作是给每条记录补一个“对象键”。若工具已提供canonical,优先用它;若没有,用“站点+栏目+标题”或后台item_id。补完键后再统计唯一值数量,才知道页数与对象数量是否真的矛盾。
做法一:按对象键归并,只保留一条代表记录。适合需要回答“有多少篇文章被查询到”的场景。代价是丢失移动页、参数页、分页的独立状态,后续无法从这份报告判断某个变体是否单独异常。
做法二:保留全部URL,只增加对象分组列。适合需要继续排查各版本差异的场景。代价是报告行数仍为280,若直接拿行数做统计会高估对象数。
选择条件可以这样定:下一步动作是汇总数量或对外汇报,选做法一;下一步动作是逐条修复或核对访问状态,选做法二。两者可以先后使用——先按做法二保留明细,再另存一份按对象键归并的汇总表。
归并后如果对象数仍多于后台数量,不要立刻认定报告错误。常见原因包括:
item_id,例如草稿与正式版各占一个标识。区分方法是抽10条记录回查后台:能对应到同一篇文章的,说明是标识问题;对应不到任何文章的,说明是列表页或历史快照。抽检结果决定你下一步是调整对象键,还是调整报告筛选条件。
先看报告字段能否支持对象归并,再根据下一步动作决定保留明细还是只留代表记录,最后用抽检解释剩余差异。这个顺序能让“页数”和“对象数量”各自保留意义,而不是强行让两个数字相等。
如果工具的具体字段名称、导出格式或筛选选项与假设不同,以你实际拿到的报告为准;必要时向工具提供方核对字段定义,再决定去重键。