先别急着否定假设,也别急着加大投放。未发生预期变化时,最值得先做的是确认试验是否真的被目标对象看到、被正确分流、被统计口径覆盖。缺少完整数据或权限时,也能用最小证据链做出初步判断,但只能排除明显未实施,不能单凭一个指标反推算法或因果。
流量分析里最常见的误判,是把“没有观察到变化”直接等同于“试验无效”。这背后至少有两种成立条件不同的解释。
这两种解释需要不同的下一步:前者要修实施,后者要修观察。混淆它们,就会在错误方向反复加码。
要区分上面两种解释,不要先看结果指标,而要先看过程证据。过程证据的作用是回答“动作有没有到达目标对象”,而不是回答“效果好不好”。
在页面或模板上直接确认改动是否存在,包括未登录状态、移动端、不同地域入口。若改动依赖脚本注入,检查脚本是否被拦截或延迟加载。一个实际动作是:用无痕窗口打开目标页,查看源码或渲染结果中是否包含试验标记。如果标记不存在,下一步应是修发布链路,而不是分析流量。
若试验涉及分组,确认进入试验组的比例和条件是否符合设计。缺少后台权限时,可在前端记录分组标识,或对比试验组与对照组的入口来源是否一致。如果两组来源结构差异明显,结果差异可能来自人群不同,而不是试验本身。
第三方估算流量、搜索引擎报告与站内统计口径不同,不能混用后再下结论。确认统计代码是否在试验页面触发,事件是否被正确命名,过滤规则是否把目标访问排除。一个可核查的证据是:在试验页手动触发一次目标行为,看统计后台是否出现对应记录。若没有记录,说明观察链路断了,此时任何“无变化”都不成立。
没有全量日志和后台权限,仍可执行以下最小检查,但结论范围要收窄。
这些动作能排除“完全没发布”“事件没触发”“两组来源明显不同”等情况。它们不能推出试验对搜索算法或推荐机制的影响,也不能证明某个指标归零就代表处理正确,因为缓存、采样、过滤规则变化都可能造成同样现象。
假设某次标题试验上线一周后,站内点击率没有变化。先检查发现:新标题只出现在部分列表页,详情页仍是旧标题;同时统计事件在移动端未触发。此时“没有变化”至少有两种合理解释——试验未覆盖主要入口,或移动端行为未被记录。下一步不是延长观察期,而是先补齐发布范围和事件触发,再重新建立基线。若补齐后仍无变化,才进入效果层面的分析。
把实施检查和效果判断分开,能避免在错误前提上继续投入。缺少完整数据时,先做能确认动作是否到达的最小检查,再决定是修实施还是修观察。