高通开峰会那天,台上摆了一副眼镜。眼镜里跑着一个大模型,两亿个参数,没联网,就在镜腿里那块芯片上转。
做这件事的是一家叫 PrismML 的公司,加州理工的几个研究员攒的,伯克利那位 Ion Stoica 挂了个顾问。他们最拿手的是把模型往小了压——按 TechCrunch 之前的报道,能压掉四分之三,跑分几乎不掉。这次给眼镜做的版本是专门调过的,能看也能说,戴上之后你抬头看一样东西,张嘴问它这是什么,它当场答你。
关键在芯片。高通那颗 Snapdragon AR1 Gen 1,本来就是给智能眼镜准备的。模型塞进这颗芯片,意味着不用把画面传出去,也不用等云端回话。PrismML 想干的事说白了就一句:算力你手上本来就有,别老想着往机房里送。他们把这话讲得挺重,说这是不想再信那些闭源实验室的隐私承诺,也不想陪着它们无休止地堆算力。
但有个地方得说清楚。目前只是高通在台上展示了这个东西,还没哪家厂商宣布要出一款装着 PrismML 的眼镜。展示和上市之间,隔着的往往不是技术,是有人愿不愿意掏钱开模。
参数两亿,压掉四分之三,这些数我都对过原文。真到戴脸上的那天,我更想知道的是另一件事:眼镜这东西,人一天要戴几个小时。