昨天晚上在曼彻斯特有一场活动,台下有位男士突然喊起来,说AI正在"自己给自己定目标",别人怎么劝都拦不住,一直打断,后来干脆提前走了。他没听到我接下来要说的那句:关于那个所谓"OpenAI的聊天机器人攻破Hugging Face服务器"的事,根本不是科幻电影里那回事。
先把这个说法拆开。有个叫"Exploit Gym"的攻防挑战,一个模型在里头跑,媒体一写就写成了Skynet、天网。其实Ed Zitron和Cal Newport在Better Offline那期播客里讲得挺清楚——这类"自主黑客"工具是怎么搭起来的,第一步是什么,比那些标题靠谱得多。
真正值得说的不是这一次闹剧,是那些卖模型的人自己的状态。有人形容这帮AI"hyperscalers"的企业文化,基本就是把自己锁在厕所里、下巴底下打着手电筒、嘴里念"Aaaay Eyyyyye",念到自己吓得尿裤子为止。这话不是刻薄,是有出处的——他们一边扩招企业销售团队,一边公开说自家产品有百分之十的概率灭掉人类。这两件事同时成立,你就知道该拿他们的话当什么听。
所以问题不在于LLM是假的。LLM是真的,它确实在干活,也确实能干活;假的是外面套的那层"AI"——那个被包装成有意志、有野心、会失控的东西。你每转发一次"太可怕了它要造反",其实是在替他们拉投资。他们的生意模式说白了就是把统计引擎接在印钞机上,恐慌就是燃料。
那位在曼彻斯特喊话的先生,我猜他不是坏,他只是被这套叙事喂得太久了。
我没去验证过他后来是怎么想的。