全球软件的漏洞，要被Claude彻底解决了？
短短48小时内，全球爆发了27起重大网络攻击，如今人们纷纷传言，“最暗十月”已经降临。
一早，Anthropic前沿红队团队联合Theorem Labs发布了一份重要报告——
他们让Claude深入到底层汇编指令（RISC-V），对真实的生产级开源代码库发动全面攻击。
短短几周，Claude成功拿下了 123个开源代码库中的239个测试入口 的形式化验证，生成了 1.8亿行Rocq数学证明代码，全部通过机器核验！
谷歌平台运行了上万亿次都没发现的隐秘漏洞，连同潜伏十余年的高危逻辑死角，甚至x86处理器硬件本身的真实缺陷，在这次大规模清理中全部暴露。
更令人惊讶的是，在一个热门PDF阅读器中，Claude一周内挖掘出的安全漏洞，直接相当于它通常一整年的报告数量。
这一次，Claude将找Bug、修Bug和验证修复串联成一条流程，展开了一场“数学级”Bug清扫。
席卷全球的网络安全危机，或许真的迎来了转机。
过去十年，开源世界最依赖的防线之一，是谷歌在2016年推出的OSS-Fuzz。
这套方法称为模糊测试，通过向程序入口批量输入半随机数据，观察哪个能导致程序崩溃。它累计运行了上万亿次测试。
但模糊测试本质上是在迷宫中碰运气。它的输入通常限制在1MB以内，只要还有一条路径未被覆盖，那里的Bug就能一直隐藏。
研究团队这次将测试入口改写成了一道数学命题，在设定条件下，小于64MiB的任意输入，都不会触发约定的崩溃，包括断言失败和ASan内存检测工具能捕捉的错误。
Claude的任务就是证明它。一次运行成功不算数，规定范围内的每一种输入、每一条可到达的路径，都必须被证明不会触发上述错误。
证明一旦卡住，要么是Claude还没找到证法，要么是程序里确实存在Bug。找到Bug后，Claude会自行打补丁，然后继续证明。
于是，那些躲在测试无法触及的角落里的Bug，现出了原形。
某个解压器中藏有一处计数器下溢，会将数据写到内存边界之外，但只有输入约20MB、且排列极为罕见的条件下才会触发。
研究团队表示，光是尝试证明的过程，就发现了数百个Bug。
测试和证明之间的差距有多大，研究人员在Claude用Rust编写的Python解释器中，故意埋下了7个Bug。
随机测试放跑了其中5个，而最终证明一个都没有漏掉。
这批证明，是在最底层进行的。
Claude证明的对象，是 编译后真正在CPU上运行的RISC-V机器码。源代码和编译出的程序未必完全一致，只有证到机器指令，证明的才是实际运行的那个程序。
为此，Theorem先将RISC-V指令和Linux进程的行为写成数学模型，目前的证明就建立在这套模型之上，限定在单线程、静态链接、固定内存预算的环境中。
证到这一层，工程量开始激增。JSON解析库cJSON的一个解析入口 只有391行C代码，Claude为它写了63万行Rocq证明。
膨胀上千倍，是因为证明要覆盖整个进程。C程序的启动、内存分配器、printf、内存检测工具自身的运行时，全都要一并证明，与cJSON本身相关的只占十分之一。
整个项目中，Claude累计写了约10亿行证明，最终约1.8亿行通过了检查。其中超过一半，是Claude为自己编写的工具自动生成的。
最后把关的，是 Rocq证明检查器，它按逻辑规则逐步验算，一份证明需要30分钟到几个小时的CPU时间。检查器确认的是证明符合规范，人类仍需审查规范和机器模型是否对应真实需求。
模型写得再流畅，过不了检查器，就一行都不算数。写出如此规模的证明，在过去是一个难以想象的工程量。
传奇微内核seL4，写代码只用了2人年，但为其完成形式化验证却花了整整20人年。因此几十年来，这种级别的安全保证，只有空客飞控这类人命关天的代码才用得起。
而这一次，123个开源库，Claude只用了短短几周。
要说Claude证明能挖掘得有多深，看一眼cpp-httplib就知道了。
为了排除递归过深、撑爆栈内存的可能性，Claude追进了C++标准库libc++的红黑树，在机器码上证明这棵树的高度始终被控制在对数级别。树的高度受控，销毁时的递归层数才有上限，才能继续证明栈空间不会被耗尽。
它先将zlib压缩格式的标准写成形式化规范，再证明Linux内核自带的zlib实现完全符合它。
这一次，证明是在x86机器码上进行的。而 x86指令集的数学模型，是Claude完全自主编写出来的。
这套模型准确到什么程度？在模型里一条指令一条指令地单步推演，能 在Linux内核上把Ubuntu的用户态完整启动起来。
编写模型的过程中，Claude发现了x86官方参考文档中的数百处错误，还发现了少量隐藏在CPU硬件本身中的Bug。
从软件一路证到芯片，AI已经在帮助人类重新核对整台计算机的地基。
形式化验证最大的障碍是成本高，一份证明往往需要消耗数亿token。如今，这笔费用正在迅速降低。
Anthropic用36个小型验证任务进行了测试，Opus 5.5 完成其中一半所需的token，比Opus 5少了约40%。
Theorem测算了今年5月到9月发布的7款前沿模型，验证速度大约每两个月翻一番。
而且，证明可以复用。
Agent们共享工作区后，同一组任务少花了17%的token。libcups、freerdp、libzmq这几个看似无关的项目，共用了运行库等底层代码，因此大段证明都是从别人已经验证好的部分复制过来，稍作修改即可使用。
顺着这个思路，Theorem计算了一笔以Nix软件生态为样本的总账。
在Nix软件生态中，只要 9MB的共享基础库，就是三分之二机器码的全部依赖。光是OpenSSL一个库，就出现在近1.6万个软件包的运行依赖中。
按当前价格，将OpenSSL验证一次约22万美元，分摊到每个下游软件包，只需约14美元。
Theorem推算，如果验证能力保持两个月翻倍，并按每年1亿美元的预算推进，到2027年底，总成本约1.34亿美元，就有望将Nix生态95%的机器码纳入证明。
作为对比，GovAI估计，全球网络犯罪相关损失、应对和防御支出，每年合计约5000亿美元。
Linux内核是全球测试最严格的软件之一，9月的一份Debian内核安全公告，就列出了1000多个漏洞。前沿大模型已经能将几个看似无害的小Bug，串成一条致命的攻击链。
寻找Bug的AI越来越强大，依靠人类逐个打补丁，已经跟不上它的速度。
论文作者之一Aengus Lynch写道，“对互联网来说，这是一段可怕的日子。我相信，这是一束希望之光。 ”
他还相信，终有一天，Theorem会将所有关键软件都进行形式化验证。
现在，首批25个库、60个入口的证明已经在GitHub公开，任何人都能下载下来，亲手验算一遍。
编写代码的机器越来越多，人类也正在走通一条路，让支撑数字世界的关键代码，都附上一份数学证明。
参考资料：
https://x.com/AnthropicAI/status/2113390212911083894?s=20
本文来自微信公众号“新智元”，作者：ASI启示录，编辑：摩西 桃子，36氪经授权发布。
欧博体育平台围绕欧博体育平台不断创新，回应用户的真实需求。