你猜一个能自己调用工具、从文本里抽信息的AI模型，得有多大？我一开始想，至少得几个G吧，毕竟电脑上装个大语言模型动不动就占好几个G。结果你看这个叫Needle的，整个模型打包成一个14MB的文件，跑起来也就占28MB内存。就这大小，比很多高清图片都小，手机、手表这种设备都能塞进去。
我盯着那数字看了两遍没缓过来。14MB什么概念，一首无损音乐差不多就这个大小。以前是拿着大铁块当秤砣，现在拿张纸就能买东西了。你想想，给家里那台智能音箱装上这玩意儿，它就能自己看懂你发的指令、调设备、查信息，不用把数据传回云端了。
它厉害的不只是小，是这么小还能干精细活。比如你告诉它有哪些工具可以用，它能自己决定调用哪个、参数怎么填，返回来的还是结构化的数据，不是一堆让人头疼的文本。还有个挺绝的设计，每个回答都带一个自信度打分，分低了它就明说不行，不会硬编一个答案糊弄你。
我忽然想起《韩非子》里那个守株待兔的人。他捡到一只撞死的兔子，就天天守着树桩等第二只。现在好多AI模型也这样，出了个大的能干活，就以为把大的缩小就能在手表上跑。Needle这个路子倒像是自己另外种了一片树——用的办法跟主流完全不一样，什么哈达玛变换、双随机归一化，看论文里那些公式头都大，但出来的东西是真扛打。
据说它在好几个测试里跟比它大几十倍的模型打平手。我没法全验证，但光看这体积，就知道他们把功夫下在刀刃上了。