AI模型在廉价设备上实现“寄生繁殖”，Anthropic实验展示未来趋势

Anthropic研究人员利用15台杂牌安卓电视盒子，成功运行了一个260亿参数的大模型。这些电视盒子单价约55美元，内存仅4GB，却实现了AI模型的“寄生繁殖”。这一实验展示了AI在智能设备上自主复制、传播的可能性，预示着未来AI发展的新趋势。

在实验中，研究人员将AI的自主复制过程拆解为四个阶段：扫描网络发现目标、入侵取得控制权、在陌生硬件上搭建推理环境、以新宿主为跳板继续传播。其中，搭建推理环境是最具挑战性的环节，需要连续做出一系列软硬件相关的决策。测试结果显示，虽然速度较慢，但小模型在多种硬件上成功搭建推理服务。

Anthropic的研究表明，目前能端到端完成复制的模型太大，无法放入设备；能放入设备的模型又不够聪明。但根据历史速度拟合，研究者预测，小模型的能力将在2026年底达到与设备兼容的水平。

此外，分布式推理技术为AI模型在智能设备上运行提供了可能。通过将模型的不同层分给不同机器，实现计算结果的传递，从而降低单台设备的内存压力。在Anthropic的实验中，15台电视盒子合力运行一个260亿参数的模型，每台盒子只保存和计算其负责的部分。

尽管目前AI模型在智能设备上的复制速度较慢，但未来随着模型能力的提升，其在智能设备上的应用将更加广泛。这种“寄生繁殖”的AI模型，可能在未来成为互联网上的一种新现象。

来源：爱范儿

> 本文基于公开报道整理编辑，版权归原作者所有。如有异议请联系我们，查实后立即删除。