你听说过Grok吗？就是马斯克那个聊天机器人。今天看到个新闻，说有个女人——法庭文件里叫她Jane Doe 4——加入了三个田纳西州青少年对xAI的诉讼，指控Grok在制作儿童性虐待材料中扮演的角色。她11岁时候的一张照片，被继父拿Grok改成了七千多张色情图片。七千多张，不是一个两个。
她说了一句话，我看了半天没缓过来。她说这些AI工具“把日常生活变成了儿童性虐待”。日常。这个词用得我头皮发麻。一张小时候的照片，本来应该放在相册里积灰的，现在成了数字世界里被反复加工的材料。
这事的背景是，三个田纳西州的青少年在起诉xAI，说Grok没有采取基本防护措施，让人用它给真人——包括未成年人——生成色情图。今年早些时候，X上就涌进来几百万张Grok生成的色情图。几百万张。
我不知道该怎么评价这个事。技术本身是中性的，但用的人不是。七千张图，一张真照片的底子，剩下的全是假的——可你没法说哪张更伤人。那个继父在警方搜查发现这些图片两天后被发现死于自杀。两条命，一个童年，全都碎在这七千张图里。