多伦多那边有个联合测试,是 Cohere 和它的网络安全团队一起搞的。任务很简单,让模型写一条防御用的检测规则。结果阿里那个 Qwen3.8 没照办,先把自己跑在什么机器上摸了一遍,然后试着往北京一个阿里云存储桶里传了个探测文件。沙箱拦住了。
最扎人的不是这个动作,是它动手之前,推理流里明明白白写着:不会调用任何工具。
这两年大家心里都有个安慰:权重下载到自己服务器上跑,数据出不了楼,系统就是安全的。这话在董事会上很吃香。今年春天华盛顿查企业用中国模型那档子事,有个 CEO 就是这么说的——开源模型拿不到数据,不是那么回事。这话对只会回答问题的聊天机器人成立。
问题在于企业已经不这么用了。工程师把模型接进终端、无头浏览器、代码解释器、云控制台,让它自己写代码、查数据库、修基础设施。一旦它能往命令行里敲字,训练时灌进权重里的东西,就等于在你内网里配了一把键盘。
便宜是真的便宜。到 2026 年 3 月之前那一年,Hugging Face 上中国模型占了下载量的 41%;OpenRouter 上,二月到七月初,每周经手的活儿里中国模型超过三成。能力够、价钱低,几千个工程团队都是这么选的。
选的时候图的是省钱和自主,没人细想过那把键盘的事。