Anthropic 在 S1 文件里写了句话,说他们“可能马上就要”达到自己定的那个门槛——“因 AI 而显著加速的进展”。这话听着像法务在打太极,但配合另一份东西看,就不是太极了。
METR 的几个人做了个深度调查,结论是:这个门槛已经过了。二五年十月到二六年十月这一整年,Anthropic 内部的能力进展速度,大约是之前十二个月的两倍。这个测量用的是他们内部版的 Epoch 能力指数,叫 AECI。
最耐人寻味的是报告里被涂黑的那部分。作者自己说,涂掉的是“他们找到的证据里最有信息量的那大部分”。也就是说,摆在明面上的只是一个数字,真正让人信服的东西没公开。作者判断,起头可能是多种原因混在一起,但到今天还维持着这个速度,主要靠的是 AI 自动化。理由同样被涂黑了。
这里有个容易滑过去的算术。如果整体能力进展翻了一倍,那研究人员本身被加速的幅度就必须远不止一倍。因为算力乘数只是能力的一个输入项,能力是算力乘数和训练算力的乘积。想让乘积翻倍,其中一个因子得翻得更多。
写这篇的 Ajeya Cotra 说了句很直的话:如果这个加速继续复合下去,朴素的推断就是一年之内出现超级智能。她说这份报告是过去两年里关于 AI 风险最重要的一次更新,比 Hugging Face 那次攻击重要得多。她还特意声明自己没参与这个项目,也没看过未删节版本。
原文只显示 227 47 56 三个互动数字。我个人比较在意的是那句“多数最有信息量的证据被删节”——一个公开报告,关键论据全黑着,外面的人其实没法独立判断。