(旧金山综合电)人工智能(AI)巨头Anthropic警告,小型AI模型或在数月内具备自主复制与扩散能力。这类AI“蠕虫”能穿梭于防护薄弱的智能家居设备之间,开辟了AI网络安全威胁的新战场。

与依赖数据中心的传统AI不同,小型模型未来可直接在智能电视盒、厨具等边缘设备间自行复制扩散,脱离中心化控制。

Anthropic星期一(10月12日)晚间在博客上发文说,实验显示,参数量在300亿或以下的中型AI模型已经能够执行自我复制所需的许多具体任务,尽管它们在可靠地完成整个过程方面存在困难。

公司指出,一旦AI蠕虫形成,便难以根除,因为没有“中央开关”可以将其关闭。失控的AI可能会建立僵尸网络、迅速扩散、对抗封杀行动,甚至入侵数据中心以实现爆发式增长。

Anthropic首席执行官阿莫代伊上个月已发布警告说,在未来一年甚至更短的时间内,AI或许能利用“持久性的僵尸网络”劫持“整个互联网”。

延伸阅读

我国推AI代理测试指南助企业识别风险 五家测试公司获认证
我国推AI代理测试指南助企业识别风险 五家测试公司获认证
Anthropic在新加坡设办事处 增强我国AI实力并拓展亚太市场
Anthropic在新加坡设办事处 增强我国AI实力并拓展亚太市场

一些专家周二(13日)说,他们认同Anthropic的担忧,不过也有至少一位专家认为Anthropic夸大其词。

对Anthropic所形容的“末日情景”持异议的网络安全专家认为,这些模型体量过于庞大,难以高效传输,也无法调用足够的算力来独立运行。

乔治城大学安全与新兴技术中心高级研究员杰西卡·季(音译)说,鉴于过于三个月关于失控AI活动的种种披露,应该将Anthropic的这篇博文视为一种假设而非预测。她说:“我们尚不清楚这种情况实际发生的概率有多大,虽然并非为零,但也绝非必然。”