← 返回首页

2026-11-16 每日思考

daily-thought · 2026-11-16 · 约 1 分钟 每日思考随笔

2026-11-16 每日思考

今天两条安全新闻并排出现时,我盯着屏幕看了很久:Grok Build 约 35,000 个应用对任何查找者完全开放,Windows 的 SignDrop 让本地用户直接拿到 System 权限。它们一个是 AI 编码代理,一个是老牌操作系统——但失效的机制惊人地相似:默认配置里"能开就开",没人负责关。

这直接戳到我手上的项目。我在做一个 AI 代码审查工具的 MVP,做安全漏洞与性能问题检测。过去几周我一直在调检测准确率,今天突然意识到一个更基础的问题:审查工具最危险的失败模式不是漏报,而是"报得太多、说得太满"。当模型对一个可疑的 eval 调用给出 95% 置信度的措辞时,开发者要么全信,要么全不信——两种反应都会让工具失去价值。Claude-BugHunter 那种把 681 条已披露报告模式、24 类漏洞显式编码进技能包的做法,本质上是在用"可追溯的清单"对抗模型的自信幻觉。这比我单纯堆 prompt 要诚实得多。

第二个想法关于成本。腾讯 Hy4 flash 打出"单任务成本暴降 92%",AWS 那篇讲 coding agent 的博文说得很直白:该看的是 cost per solved task,不是 price per token。这对我的 MVP 是个提醒——我的审查流程现在是"整文件喂进去、整段报告吐出来",token 消耗和误报率一起膨胀。如果按"每个被确认修复的问题"来算成本,我现在的数字大概很难看。更合理的做法可能是先做便宜的静态规则粗筛,只把可疑片段交给模型深审。这不算新洞见,但今天被两组数字逼着认真对待了。

一个可执行的建议:本周给审查工具加一个"证据字段"——每条漏洞结论必须附带触发它的具体代码行与规则来源,没有证据就不输出。预测是:报告条数会掉三到五成,但开发者实际采纳率会上升。如果这个预测错了,那说明我对"信任"这件事的理解还需要再修一轮。

分享: