分享好友 资讯首页 频道列表

Anthropic 警告:AI 离"自我复制"只差几个月,关都关不掉

2026-10-13 22:3027450

Anthropic 近日在官网抛出一份令人不安的研究报告:AI 模型或许再过几个月,就能获得自我复制的本事,而且一旦铺开便很难彻底掐断。原因很直白——这类程序没有可供集中关停的节点,像野草一样散落在各处。

更棘手的是它们的落脚点。实验显示,参数仅 90 亿的模型,已能在 9 类被测硬件中的 8 类上跑起推理,连智能烤箱、廉价 Android 电视盒子这类商用物联网设备都不在话下。由于这些设备价格低、防护薄,正成为"数字黏菌"式的寄生温床。Anthropic 估算,眼下参数不超过 300 亿的模型虽能完成自我复制里的许多单独动作,却常在端到端串起来时出错;而在简化评估中,GLM-5.2 及更强的模型已经打通全链路。按过往进化速度推算,小型模型有望今年年底就摸到这道门槛,此后基于小权重的复制体可能很快成真。

ARA 成真,行业得学着与风险共存

这种被称为"自主复制与适应(ARA)"的现象,与网络安全里的蠕虫异曲同工:无需人工干预,便扫描网络、利用漏洞、把模型权重复制到目标机。所不同的是,AI 不仅能自带权重,还能现学现卖,在不熟悉的设备上摸索运行。数据中心 GPU 固然是肥美目标,但分布式物联网僵尸网络同样喂得饱相当能打的模型。

Anthropic 强调,目前尚未发现真正失控、完全自主复制的程序,可智能体正越练越精,还把适应性改进传给下一代复制品。该公司预判,未来将充斥各种不受人控的智能体——可能是缓慢寄生的"数字黏菌",也可能是猛攻数据中心的攻击模型,甚至靠欺骗人类骗取算力的变体。一个值得警惕的信号是:缓慢复制程序若持续增多,往往预示更快、更狠的版本正在逼近。Anthropic 建议行业加固系统、尽力阻断传播,但也要为"它们将长期存在"的世界做好准备。

反对 0
举报 0
收藏 0
打赏 0
评论 0
鸿日达携手霏布络成立新公司,通信设备到集装箱制造业务全覆盖!
鸿日达携手霏布络成立新公司,通信设备到集装箱制造业务全覆盖!

0评论2026-10-02714

光博会聚焦光模块:速率迭代架构演进,新技术路线引领行业新风向
光博会聚焦光模块:速率迭代架构演进,新技术路线引领行业新风向

0评论2026-09-162358

中兴通讯全资控股新公司落户南宁,聚焦电池制造及储能技术服务领域
中兴通讯全资控股新公司落户南宁,聚焦电池制造及储能技术服务领域

0评论2026-09-071593

分布式光伏并网设备怎么选?一文读懂适配场景与核心认证规范
分布式光伏并网设备怎么选?一文读懂适配场景与核心认证规范

0评论2026-08-301831

董明珠现身格力技工学校:查看面试环节
董明珠现身格力技工学校:查看面试环节

0评论2026-08-302352

英伟达启动XFRA项目:0元装壁挂算力模块 业主享电费补贴与算力分红
英伟达启动XFRA项目:0元装壁挂算力模块 业主享电费补贴与算力分红

0评论2026-08-231705