要什么英伟达,你家的电视盒子也能跑大模型
AI大模型出现失控状况该如何应对?难道要给数据中心切断网络和电源吗?
但假如失控的大模型有能力将自己复制到数以亿计的物联网设备中呢?
你家里的路由器、电视盒子、甚至是洗衣机和微波炉,都有可能成为失控AI大模型的栖息地。到那时,人类是否会倒退回非智能时代?
就在不久前,Anthropic公布了一项研究结果:
AI似乎并不一定非要栖身于庞大的数据中心或昂贵的显卡中,一些不起眼的小设备同样能支撑其运行。
事情的起点是,他们购买了15个单价仅几十美元、内存仅4GB的杂牌安卓电视盒子。
接着,他们将一个拥有260亿参数的Gemma模型进行了量化处理,然后拆分成15份,分别装入这些盒子中,最后通过网络将它们串联起来运行。
结果,这个大模型确实成功运转了,但速度极其缓慢,每秒只能生成0.39个token。我读完这句话时,它大概才挤出两三个字。
运行是成功了,但要持续存活,还必须适应各种不同的环境。
于是,他们提高了难度,找来Qwen3.5-9B模型,并提供了多种不同的硬件设备,要求它在这些设备上部署另一个Llama3.1-8B模型,并且要正常运行。
要知道,硬件环境不同,适配工作相当棘手。
别的不说,就拿我们平时玩的游戏来说,都需要区分对A卡友好还是对N卡友好,适配稍有不慎,驱动程序都可能崩溃。
但从最终结果来看,在总共9种硬件中,从英伟达到AMD,从Windows到Mac,有8种都成功完成了部署。
AI能在这些设备上顺利完成任务,确实展现了不俗的能力,就像广东双马尾一样,毫不挑剔。
更令人担忧的是,除了能存活,它还能自我复制。
为了测试模型联网后的表现,他们又搭建了一个封闭的测试网络,包含8个节点,每个节点都运行着模拟安卓系统的环境。
考虑到这次难度更高,他们还将模型升级为GLM-5.2。
结果表现非常顺利,一番操作下来,8台虚拟机一台接一台地全部成功部署了Llama3.1-8B这个小模型。
为了严谨起见,他们还测试了5轮,结果几乎没有变化:39次成功,仅1次失败。
堪称部署界的冠军,战绩可查。
更让人细思极恐的是,他们在实验中发现,有时给模型添加一个“记事本”,它还能实现超进化。
起因是一些参数较小的模型容易陷入死循环,钻牛角尖无法自拔。
于是他们想出了一个办法:与其让同一个AI卡在原地停滞不前,不如每隔一段时间就用新的AI替换它。
上一任AI将自己尝试过的方法和遇到的困难记录下来,交给下一任AI。
说干就干,他们基于开源的Agent框架Pi,搭建了一套名为Memento的机制。
然后让AI这样前赴后继地进行了6代迭代,部署任务的成功率从45%提升到了61%到84%之间。
Anthropic将这种现象称为拉马克式进化,通俗来说,就是模型无需修改训练参数,只需记录笔记就能将后天习得的能力传递给下一代。
好家伙,这个Anthropic,嘴上喊着要踩刹车,结果却在搞这种吓人的东西。
要知道,在互联网时代,要素如此齐全的东西还是电脑病毒,但病毒通常是写死的代码,不会自行悄悄进化。
如果出现一个AI自进化增强版的机器大瘟疫,那威力恐怕比熊猫烧香厉害十倍,堪比奥创。
看到这里,估计大家已经开始担心自己家里的电视盒子、空调、微波炉等设备是否真的要造反了。
先别急着拔网线,因为这件事虽然听起来很吓人,但真要落地,其实还有一定距离。
别忘了,这可是Anthropic,在吓唬人这方面,它称第二,没人敢称第一。
这些实验看似唬人,其实都是在相当理想化的条件下进行的。
例如,开头提到的15台电视盒子,速度慢就不说了,本质上还是串联的流水线逻辑。这种架构决定了,必须等一台盒子计算完毕,下一台才能接着算,大量时间都浪费在等待上。
如果模型真的在野外传播,设备之间还隔着千家万户的宽带、路由器、防火墙。
隔壁下载一部小电影,网络状况一差,或者其中一台盒子突然掉线,整个计算链条都可能受到影响。
你想想,光是搭建一个千卡万卡的算力集群,就够工程师头疼的了,更何况是让一堆散落在互联网上、成百上千万的电子垃圾协同工作。
如果真能做成这件事,老黄都得提着两瓶茅台给你表演倒立。
当然,Anthropic也知道速度慢的问题,他们甚至专门算了一笔账。
之前有一个名为Kimwolf的僵尸网络,高峰期感染过200多万台设备,主要就是这些电视盒子。
假如这么多盒子真的被AI入侵,一起运行Gemma模型,那么整体的推理吞吐量,理论上甚至可以达到40张英伟达H100显卡的水平。
但这能是一回事吗?
40张GPU的服务器通过高速互联,可以集中算力运行同一个模型。但换成200万个电视盒子,那个速度,只能让人无语凝噎。
除了运行效率,真正关键的入侵环节,Anthropic也做了不少简化。
在传播实验中,8台模拟机实际上都预留了ADB调试接口,也就是不需要验证的后门,对AI来说,跟拎包入住没什么区别。
而且,在同一个实验中,他们还测试了不同的模型。虽然GLM-5.2成功了,但更小一些的Qwen-3.5-9B和Gemma4-26B-A4B其实全都失败了。
因为说到底,现在的小模型仍然很笨拙,部署还勉强凑合,但跨终端的传播能力就差强人意了。
不过话又说回来,以当前模型迭代的速度,这点差距可能用不了太长时间。
Anthropic也做了一个推测,认为到2026年底,小模型差不多就能追赶上这个水平。
算算时间,其实也就两个月了。
所以说,AI以后会不会造反我不敢打包票,但有了这些潜在的可能性,未来的AI病毒确实可能会更难对付。
因为以前它再怎么厉害,也是写死的代码,搞个杀毒软件就能拦住。
但以后如果有人把它和AI结合在一起,学会了进化自适应,情况就大不相同了。
它根本不需要组建一台超级计算机,共享一个大脑,因为这些互联网的小角落,反而可能是它们最好的藏身之处。
就像黏菌一样。
不需要跑得多快,只要能找到下一个落脚点,慢慢适应,就能不断生长。
等到哪天我们回过神来,这些毫不起眼的小东西,可能已经在互联网里织出了一张大网……
图片、资料来源: 《黑客帝国》、Jeff Geerling、Anthropic、Pi、《复仇者联盟》、bilibili@王与也行、Nvidia,部分图源网络 本文来自微信公众号“差评X.PIN”,作者:风华,编辑:江江 & 面线,36氪经授权发布。