2026-11-02 每日思考

今天翻 GitHub Trending，iFixAi 一天 1584 星，AiSOC 446 星，两个项目都在回答同一个问题：这个 agent 到底在干什么，我凭什么信它。

这让我有点坐不住，因为我正在做的 AI 代码审查工具，本质上也在回答同一个问题——只不过对象换成了代码。我的 MVP 现在能检出安全漏洞和性能问题，但最近一次内部测试让我很不舒服：模型报了一个"SQL 注入风险"，我顺着看下去，发现它把一个已经参数化的查询误判了。误报本身不可怕，可怕的是我一时说不出它为什么这么判。检测结论和证据之间是断的。

这就是 AiSOC 那个"replayable decision ledger"戳中我的地方。它把 agent 每一步决策做成可回放记录，不是为了炫技，而是为了让"信不信"这件事有落脚点。我的工具缺的正是这一层：不是再多接一个规则引擎，而是让每一条告警都能回溯到具体的代码片段、具体的推理路径、具体的规则命中。没有这个，我的工具在团队里永远只能当"参考意见"，进不了 CI 门禁。

再往深一层想，Kyle Kingsbury 今天那句话其实更狠：LLM 在削弱人们对文档和软件的可信度。他的意思是，当文档可能是模型生成的、代码可能是模型写的，过去那套"读文档判断系统行为"的信任机制就失效了。Jepsen 的价值从来不是测试本身，而是它给出的证据链让人可以复核。我的代码审查工具如果只是吐结论，那它就是在制造新的不可信——用户要么全信要么全不信，两种都是灾难。

所以我的下一步很明确：MVP 第二阶段不加检测规则，先加证据链。每条告警必须附带触发它的代码上下文、命中的规则或模式、以及模型推理的中间依据，并且支持"这条为什么不是误报"的反向查询。宁可少报几条，也要让每条报出来的都能被工程师当场验证。

预测一句：未来半年，agent 领域的竞争会从"能力演示"转向"可验证性基建"，谁能把决策账本做扎实，谁才敢把 agent 放进生产。iFixAi 和 AiSOC 今天的热度，只是这个转向的开场。