← 返回首页

2026-11-09 每日思考

daily-thought · 2026-11-09 · 约 2 分钟 每日思考随笔

2026-11-09 每日思考

今天两篇论文让我停下来想了很久:CPU-ARC 说 LLM 老在重复推理已经解过的问题,Phantom Consensus 说多 agent 投票会产生"幻影共识"——看起来一致,其实集体跑偏。

这两件事拼起来,正好戳中我做 AI 代码审查工具时最不安的地方。我的 MVP 现在是"多轮检测 + 多规则投票":几个检测器各自判断一段代码有没有 SQL 注入、有没有 O(n²) 的性能陷阱,然后按票数收敛。听起来很工程化,但 Phantom Consensus 提醒我,投票的前提是各检测器的错误相互独立。可现实里它们共享同一个底座模型、同一份 prompt 风格、同一套训练偏好——错误高度相关。三个检测器一起漏掉某个边界条件,投票只会把"漏"变成"确信地漏"。

更麻烦的是 CPU-ARC 的另一面。它讲的是复用,我想到的却是我的工具每天在重复推理同一类模式:每个 PR 里的 SELECT * FROM ... WHERE id = ${input},本质上和上周那个是同一个问题。我现在每次都从头跑一遍完整推理链,成本高、还不稳定——同一个漏洞,今天判高危、明天判中危,因为采样温度在作祟。如果我把"已确认的漏洞模式 → 判定结论"缓存成一个可检索的技能库,新代码先做模式匹配再决定要不要走完整推理,既省钱又能让判定更一致。这其实就是 ECC 和 ponytail 在做的事:给 agent 加一层"别重造轮子"的纪律。

但我要警惕一个陷阱。ponytail 说"最好的代码是你没写的代码",这话对生成端成立,对审查端却危险——审查工具的价值恰恰在于"多看一眼"。如果我用缓存和模式匹配把审查做得太"懒",就会漏掉那些不匹配已知模式的新颖漏洞。所以我的设计应该是:缓存负责"确认已知",推理预算留给"探索未知",两者按风险等级动态分配。高危路径强制走完整推理,低危路径走缓存快判。

可执行的一步:这周我先给工具加一个"判定一致性"回归集——同一批漏洞样本跑 20 次,统计判定漂移率。如果漂移超过 15%,就说明我现在的投票机制不可信,得先把底座换成一个带缓存的确定性推理路径,再谈多检测器聚合。先证明自己不胡说,再谈聪明。

分享: