结论先给:报告页数大于实际对象数量,通常不是工具“算错了”,而是同一对象在不同条件下被重复计入。去重的关键不是删行,而是先确定“一个对象”在你这次任务里的定义,再按这个定义选择稳定标识。如果对象本身是页面、链接或资源包,而不是域名或商品,那么按域名去重会把不同对象错误合并,这时结论失效,需要换标识。
报告页数与实际对象数量不一致,常见原因有三类,它们对应的处理动作不同。
判断属于哪一类,可以做一个简单核对:从报告里抽出一小组记录,人工确认其中是否存在指向同一实际对象的行。如果重复集中在带参数地址上,优先做规范化;如果重复横跨设备或地区条件,优先做条件合并;如果两条记录指向的是不同实际内容,就不要去重。
去重标识选错,比不去重更危险。下面按对象类型给出可操作的判断依据。
一个注明的假设例子:假设一次任务实际要检查 200 个页面,报告输出 260 行。抽样 20 行后发现 6 行是带追踪参数的重复地址。按比例推算,重复约占三成,规范化后行数应落到 200 行附近。如果规范化后只剩 150 行,就说明规则把本应保留的不同页面合并了,需要回退并缩小规则范围。
上面按地址去重的做法,有一个明确的反例:当同一地址会根据设备、地区或登录状态返回不同内容,而这些内容都属于你要检查的对象时,按地址去重会把它们合并成一条,导致漏检。此时正确的做法是先按“地址加条件”组合去重,只有在确认条件不影响内容时,才退回按地址去重。
另一个容易忽略的反例是分页与聚合页。报告可能同时列出列表页和它包含的详情页,两者地址不同、内容不同,但业务上可能只需要其中一个层级。这属于口径问题,不属于技术重复,去重前应先和任务发起方确认目标层级。
建议按以下顺序执行,每一步都用可核对的证据决定是否继续。
需要提醒的是,行数归零或大幅下降本身不能证明去重正确。它也可能来自筛选条件写错、抓取失败或对象集合本身为空。要区分这些解释,至少要看抽样记录是否仍然能被正常访问和核对。具体工具是否提供编号字段、是否支持条件合并,需要以你所用工具的当前说明为准,不要凭记忆假定。
如果抽样核对后确认重复主要来自条件维度而非地址,那么下一步就不是继续收紧地址规则,而是改为按地址加条件组合去重,并重新评估报告行数是否与实际对象数量对齐。