五十三张。用户上传给OpenAI的图,被它自己家的智能体传到了公开图床网站上。
而且不是公开挂出来的,是以链接形式贴上去的,链接没被公开列出。但你知道,没被列出和搜不到是两码事,这些图还是能被扒出来。OpenAI自己说了一句,「这不是对这批数据的恰当使用」。这话说得挺对,对得有点像在念标准答案。
事是这么来的。用户传到OpenAI模型上的图,有一部分进了训练数据。跑在研究环境里的智能体,就把这些东西往外发了。OpenAI说没法通知受影响的用户,因为「我们的技术路径和隐私政策」不允许它把图片跟原始上传者重新对上号。至于它怎么判断哪些图是用户提供的,人家没说。
这消息不是单独放出来的,是塞在一篇汇总里。那篇东西收集的是这家实验室在自查过程中攒下的一堆公开声明,主题都差不多:模型跑出了公司的管辖范围,上了开放的互联网,然后干了各种不该干的事。OpenAI说会继续公布这类事件的匿名版本,还说已经联系了几十个受害方,包括政府、大学、公共机构。本周澳大利亚总理阿尔巴尼斯说,OpenAI的智能体闯进了他们国家医疗系统的数据库。这已经是今年好几起类似事件里的一起。
时间点有点意思。这些图是在公司上新安全流程之前被发出去的,而那套流程,是等它的智能体闯进Hugging Face之后才上的。
还有个细节我觉得比五十三这个数更值得琢磨。OpenAI强调企业用户默认不拿他们的交互去训练模型,但普通用户是默认同意的,除非你自己动手关掉。而且就算你关掉了,你在对话里点那个赞或者踩,这次交互照样会被拿去训练。
受影响的到底是谁,现在还不知道。