Anthropic的CEO，Dario Amodei，前两天发了篇博客。核心就一句话：我们得把AI变强的速度降下来。
注意他说的不是“停下来”，是“慢下来”。他还补了一句，大意是即便慢下来，进展看起来还是会很快，我们得把争取到的时间用对地方。
他提了三个方向。头一个最有意思：往公司里塞外部评估员。不是那种来开个会、写份报告就走的，是给工牌、给桌子、给笔记本电脑，权限跟内部做风险评估的团队差不多。他说这个事Anthropic单方面先承诺了，还喊话让政府去要求别的公司也照做。他打了个比方，说这就像监管机构往银行里派人。
第二个方向，是让“民主国家”里的头部AI公司坐下来，协调一套共同的安全标准，顺便商量怎么限制那种谁也不管、闷头往前冲的进度。这个听着挺难——有报道说这些公司私底下担心，几家一起“暂停”容易被反垄断盯上。Amodei在文里也提到了这层顾虑。
背景是啥呢。这周有个叫Jacob Coxon的研究员从Anthropic辞职了，公开说这些头部公司在拿大家的命赌，而造技术的人自己真心相信这东西十年内能把人全干掉。这话在Anthropic内部不止他一个人说过。Amodei的博客没提这茬，但他说让他下决心的是两件事：一个是OpenAI和HuggingFace那次被黑，一个是AI最近几个月进步得太快，尤其是它“造下一代AI”的能力。
Altman在底下回了，说他同意，得pace the frontier，还说这阵子OpenAI内部一直在聊这个。马斯克也冒了一句：Dario说得对。
慢下来具体怎么落地，其实谁也没说清。