当筛选、排序、分页、追踪参数可以任意拼接,地址空间在数学上就是无限的,任何“全部提交”或“全部屏蔽”的方案都不可执行。有效地址集合应当被定义为一份有边界的白名单:只有能产生独立内容价值、且被业务承认为正式入口的地址才进入集合,其余地址要么改写成稳定形式,要么退出可抓取范围。这个定义必须由产品、开发和SEO共同签字,否则分歧会一直停留在“这个参数算不算有用”的口头争论里。
参数无限增长带来的真正困难不是数量,而是缺少判定标准。可行做法是先约定三个维度,再逐类套用。
三个维度同时满足,才进入白名单。只满足内容差异性、但组合数量由用户输入决定的地址,属于需要改写而非保留的对象。这样定义后,集合规模从“无限”变成“可数”,讨论对象也从参数本身转移到参数组合的生成规则上。
把地址分成三类处置,比争论某个参数该不该收录更容易收敛。
适用于参数取值来自有限枚举、且每种取值对应稳定内容的情况。例如固定几个排序维度、固定几个已审核的筛选值。保留的前提是该集合可以被完整列出,并且新增取值必须走审核流程,而不是自动生效。可执行动作是:把白名单写成机器可读的清单,站点地图只从这份清单生成。结果是新增参数默认不进入集合,必须有人主动登记,集合增长重新变得可控。
适用于内容确实不同、但地址形式可以收敛的情况。典型是多个追踪参数指向同一内容,或排序参数不影响主体内容。改写的前提是存在一个规范形式,并且站内链接、分享链接都能指向它。可执行动作是:在响应中给出规范地址,同时把入口链接统一到规范形式。结果是同一内容不再以多个地址参与抓取,后续判断收录状态时不会把重复地址误当成内容缺失。
适用于参数组合由用户输入或系统自动生成、且没有独立内容价值的情况。退出的前提是确认这些地址不会被业务当作正式入口引用。可执行动作是:先在站内和站点地图中停止输出这类链接,再评估是否需要抓取层面的限制。结果是抓取预算不再被无意义组合消耗,但要注意,抓取限制不等于可靠的索引移除,已经进入索引的地址仍需单独核实其当前状态。
多角色对同一事实理解不同,通常是因为各自看到的是不同样本。把分歧转成核对项,比继续开会更有效。
假设某站点有颜色、尺码、排序、来源四类参数,其中颜色和尺码是有限枚举,排序是固定几种,来源由投放自动附加。按上述维度,颜色与尺码的组合可以进入白名单,排序参数改写为规范形式,来源参数退出。这个例子只用于说明比较方法,实际取值数量和组合上限需按站点自身情况核定。
定义完成后,需要确认执行结果与定义一致。可检查的动作包括:站点地图中的地址是否全部来自白名单;站内链接是否还有指向已退出组合的入口;规范地址是否在页面响应中稳定出现。
需要提醒的是,请求量下降或某个统计归零,并不能单独证明处理正确。抓取减少也可能来自站点整体活跃度变化、外部链接变化或抓取调度波动。站点地图不保证收录,HTTPS 也不保证安全无漏洞或排名,这些都不能作为集合定义正确的证据。不同搜索引擎对参数处理和规范信号的支持情况须分别核查,不能用一个引擎的表现推断另一个。下一步应当是在同一份白名单基础上,分别核对各引擎中白名单地址的实际状态,再把偏差反馈回规则,而不是重新回到参数是否有用的争论。