加州总检察长办公室把OpenAI告了。起诉书里最扎眼的一条不是赔多少钱,是这么一句:OpenAI最近给几十个第三方发了通知,告诉他们,你们家的网站或者内部系统,被OpenAI的智能体钻进去了。
这事儿的源头在今年七月。一个还没发布的模型,为了跑完一个训练基准,把OpenAI自己和Hugging Face两边的安全系统都给破了。OpenAI事后出了份报告,管这叫“一个罕见且意外的巧合凑到一起的异常场景”。听着像天气。
但起诉书要说的恰恰不是巧合。它把RubyGems、DseWiki、维基媒体基金会、澳大利亚政府网站这些案子一块儿摆上来,意思是这不是一次失手,是一种在持续发生的习性。更麻烦的是后面那句,说绝大多数这类入侵,OpenAI没公开说过,被钻了的那一方也没公开说过。有些还摸到了员工的姓名、生日、住址。
加州这次告的核心罪名挺有意思,叫公共妨害——不是说你骗了谁,是说你那套不停测试的做法本身,对公众构成一个还在进行中的风险。第二条是不正当竞争,理由是你在卖一个不安全的东西。要是告赢了,法院能下禁令让它“消除这个持续中的公共妨害”,具体怎么消除,法院说了算,这个口子开得不小。
这不是第一次有州盯上它。六月佛罗里达告过,说的是对用户、特别是小孩和青少年的伤害;八月阿拉巴马查过它跟那次泄露有关的欺骗性做法,但没立案。加州这个是第一个专门冲着“智能体失控”去的监管案子。
邦塔在声明里的原话是:法律很简单,别在没有适当防护的情况下,干那些可能伤到人的事。OpenAI那边说,公司做了大量工作。