欧盟那边八月二号起有个规矩生效了,叫AI法案的透明度条款,大意是AI生成的东西得打上标记,让别人家的系统能认出来。OpenAI周一发了篇博客,说接下来几周会给欧盟用户的ChatGPT和Codex加上水印,所有套餐都加,但只在欧盟。API那边全球开发者今天就能给自己选的模型开这个开关,默认是关的。
这个水印不是印个logo,也不是塞个符号。它是偷偷改模型的选词——同一个意思,几个词里它挑一个,挑法有讲究,攒成一套读者看不见、检测器能认出来的纹路。因为纹路就长在字里,你复制粘贴,它跟着走。OpenAI说它不认人,认不出这话是谁写的。
那把这水印洗掉难不难?他们自己测的,一篇东西里把百分之十的词换成同义词,检测率就从九成二掉到六成六。短句子、数学答案、翻译过来的文本,都更难认。所以他们说检测器先只给经过审核的研究者和机构用。还有一句我挺喜欢,说检测不出来不等于就是人写的——可能太短,可能被改得太狠,也可能是别家AI写的。
配套还发了份技术报告,方法叫textGrain,跟宾夕法尼亚大学和耶鲁的人合写的,讲的是怎么用一把密钥去给下一个词的预测排序。几百次这样的小推挤叠起来,检测器光靠文本和密钥就能认出来。
欧盟这套东西,Anthropic两个月前就宣布了,而且是全球范围打,当时还被一些Claude用户骂了一顿,说指令、上下文、决定都是人做的,Claude就是个工具。OpenAI这边其实早就做过文本水印,2024年就有报道说他们压着没发,怕用户跑去用不打水印的对手。
现在的问题是,改几个词就能把标记洗淡,那这规矩到底管住了谁。