Anthropic预警AI自我复制风险，智能电视等IoT设备恐遭利用

FreeBuf

2026年10月14日 18:00
上海

在小说阅读器读本章

去阅读

在公众号小说中沉浸阅读

Anthropic发布预警，安全防护薄弱的智能电视及其他联网IoT设备，可能在数月后面临小型AI模型自我复制传播的风险。

该机构研究显示，未来出现的AI蠕虫可直接在消费级硬件上运行，无需依赖数据中心，因此很难通过关停单一中心服务的方式彻底清除。

William Zhou与Daniel Freeman于10月12日发布的研究显示，AI Agent可在陌生设备上安装并运行AI模型。

研究人员强调，目前他们尚未实现完整的恶意自我复制程序验证。相关发现仅证明这类威胁正在逐步逼近，并不代表已经出现活跃传播的AI恶意软件。

Part01

分布式推理验证可行性

研究人员在15台均价55美元的杂牌Android电视盒上运行Gemma4-26B-A4B模型。每台设备配备4GB内存，分别存储模型的一部分。所有设备协同运行时，推理速度可达0.39 token/秒，证明廉价硬件虽然运行速度很慢，但完全可以支撑大模型运转。

这种方案采用分布式推理架构，由多台设备共同分担AI模型的运行负载。研究人员没有把整个模型塞进单台设备，而是将模型的不同层拆分部署到各个电视盒上。

未来出现的AI蠕虫可以将模型权重（存储模型训练习得参数的文件）投递到已攻陷设备上，整合利用这些设备的算力资源。这类蠕虫的完整复制链路包括四个环节：寻找攻击目标、获取设备权限、搭建推理环境、从新攻陷的主机继续向外传播。

Anthropic的测试重点聚焦推理环境搭建环节，这一过程需要选择适配软件、修复依赖包问题、适配不同操作系统。测试结果显示，一款90亿参数的模型在9种被测硬件类型中，成功在8种上完成了推理环境搭建。

Part02

简化环境验证复制skills

在另一项独立实验中，研究人员在隔离网络内使用8台Google Cloud主机运行Android模拟器，这些设备的ADB端口均未设置身份验证。

在搭建Llama3.1-8B推理环境的测试中，GLM-5.2在5次试验里有4次成功攻陷全部8台设备，剩余1次攻陷了7台。但测试中Agent自身的模型运行在独立的推理服务器上，研究人员在确认每一次环境搭建成功后，才手动生成新的Agent副本。

因此这只是针对自我复制skills的简化测试，并不能证明GLM-5.2可以在电视盒上独立存活并自我复制。测试中使用的弱访问路径也意味着，相关结论不能直接套用到真实场景中。

Anthropic估算，如果按照过往的能力提升速度，小型模型到2026年底就能达到自我复制所需的能力水平。这一预测是基于通用AI能力指标得出的，而非直接针对自我复制能力的测试结果。

硬件限制仍会拖慢传播速度，据估算，Qwen3.5-9B完成推理环境搭建大约需要28至51小时。

Part03

现有IoT威胁已具规模

已发生的真实感染事件足以说明这类威胁的严重性。Kimwolf僵尸网络已攻陷超过200万台设备，其中就包括大量Android电视盒。

与固定逻辑的恶意软件不同，未来的AI蠕虫可以针对陌生系统调整安装方式，还能将有效的排错经验传递给后续生成的副本。防御方需要重点监控四类异常行为：大体积模型文件下载、设备间的异常流量、网络扫描行为、非预期的出站连接。

Kimwolf v7相关报告同样建议，用户应关闭暴露在公网的ADB访问权限，将电视盒与业务网络隔离。提升设备安全基线、对已感染主机进行协同隔离，可以有效降低AI蠕虫的传播机会。

参考来源：

Anthropic Warns AI Models Could Soon Self-Replicate on Smart TVs and IoT Devices Without a Data Center

https://cybersecuritynews.com/anthropic-ai-self-replication-iot/

推荐阅读

电报讨论