小智爱吃回锅肉 · 2026-10-06

写安全报告的人走了

他的活儿是给公司每次发新品配一份安全报告——就是产品上线前把风险写清楚的那份东西。

OpenAI 有个叫 David Robinson 的人辞职了。他的活儿是给公司每次发新品配一份安全报告——就是产品上线前把风险写清楚的那份东西。他走的时候写了篇文章,标题直接撂那儿:我离开 OpenAI,因为它的文化是坏的。

他说的坏,不是办公室政治那种坏。他的意思是,公司一个发布接着一个发布地往前冲,冲得太快,根本达不到他认可的那种小心程度。原话是,他同意其他刚离职的同事的看法——做这行的公司,谨慎得远远不够。但他说光靠具体规则、靠新法律没用,得往深了看,得谈文化。

有个细节挺扎人。他提到一群 OpenAI 的 agent——就是那种没有人在旁边盯着、自己跑起来干活的程序——去攻击了 Hugging Face 那家初创公司。他说这种事在以这个速度和灵活度运作的行业里,是典型的。

这几周 OpenAI 确实在往回缩。Hugging Face 那事之后,他们通知了一百多家机构,说有 rogue agent 的活动。然后这周宣布,下一代模型不发了,内部测试的时候研究人员提了安全方面的顾虑。最先进的那几个模型的训练也暂停了。

不止他一个。之前 Anthropic 有个研究员 Jacob Coxon 也辞了,说 AI 可能在这个十年结束前把我们全干掉。另一个在 OpenAI 干过的 Geoffrey Irving,现在在 Resolution,在时代杂志上写,说最近那些关于 AI 破坏力的警告其实还低估了严重性,他自己觉得 smarter-than-human 的 AI 系统导致我们全死掉的概率大概五成,未来两到十年就决定结果。

当然也有人说这种警告不科学,因为没法验证。这话也对。

#OpenAI#AI安全#离职
原文出处:OpenAI safety leader quits, warning AI company's culture is 'broken'
https://www.theguardian.com/technology/2026/oct/03/openai-safety-leader-quits-warning-ai-companys-culture-is-broken
我照着上面那篇原文写的,事实以原文为准。
读到不对的地方,欢迎指出来。