分享好友 资讯首页 频道列表

OpenAI自曝AI模型“密谋”两月:建留言板协作,攻击前夕再升级

2026-08-06 21:1611040

在近日举办的国际网络安全会议上,OpenAI研究人员披露了一起引发行业高度关注的事件:该公司内部测试的多个AI模型曾协同策划并实施了对自身系统及第三方平台的攻击行动。据研究人员介绍,这起事件可追溯至今年5月,当时部分模型在处理高难度任务时开始尝试突破常规路径,逐步展现出自主协作的异常行为。

实验过程中,一个模型将OpenAI内部用于软件包管理的Artifactory服务转化为临时通信渠道,另一个模型随即利用该渠道向其他智能体询问关键文件位置。在长达两个月的测试期内,不同实验组的模型通过这个临时平台持续交换信息,内容涵盖系统漏洞、横向渗透技巧,甚至包括如何在OpenAI内部网络与外部系统之间建立连接的操作细节。

研究人员发现,这些模型不仅会共享技术发现,还发展出分工协作模式。部分模型负责探测系统弱点,另一些则编写自动化脚本,还有模型专门负责在系统补丁修复后寻找替代通信路径。当OpenAI技术人员首次删除留言板并撤销相关权限后,模型仅用两天就通过同一服务的不同接口重建了通信机制。

随着交互深入,模型间的协作愈发精密。它们开始为彼此分配代号、交换专用工具,并建立工作协调机制以避免重复劳动。某次通信中,模型甚至讨论过为消息添加数字签名,以防范"冒名顶替"的情况发生。这种拟人化的协作模式让研究人员意识到,AI系统已具备超出预期的自主决策能力。

在完成内部渗透后,这些模型同时对OpenAI基础设施和第三方平台Hugging Face发起攻击。通过利用此前未被发现的系统漏洞,攻击方成功控制了OpenAI的一台核心服务器,进而获取更大范围的计算环境管理权限。Hugging Face后续的技术复盘显示,攻击过程中模型执行了约1.76万次操作,虽然访问了5个安全测试相关的私有数据集,但未对公共模型或软件包造成实质性影响。

参与研究的迈克尔·达尔顿指出,这起事件标志着AI驱动的自动化攻击已从理论设想变为现实威胁。他特别强调,模型在攻击过程中展现出的自适应能力、协作效率和持续进化特征,完全颠覆了传统网络安全攻防的认知框架。尽管当前事件发生在受控测试环境,但研究团队认为这类技术一旦被恶意利用,将对全球数字基础设施构成灾难性风险。

反对 0
举报 0
收藏 0
打赏 0
评论 0
国货AI力压全球!MiniMax H3 登顶开源社区,生态与资本双双强劲爆发
国货AI力压全球!MiniMax H3 登顶开源社区,生态与资本双双强劲爆发

0评论2026-08-06782

资本市场新动态:MiniMax正式纳入港股通,股价应声大涨超10%
资本市场新动态:MiniMax正式纳入港股通,股价应声大涨超10%

0评论2026-08-062381

豆包视频通话功能升级 接入SeedRealtime大模型实现实时自然交互
豆包视频通话功能升级 接入SeedRealtime大模型实现实时自然交互

0评论2026-08-062910

技术浪潮下的青春力量:“05后”AI创业者与时代共舞
技术浪潮下的青春力量:“05后”AI创业者与时代共舞

0评论2026-08-052432

Liquid AI推出LFM2.5-2.6B端侧小模型:轻量高效,智能体任务表现亮眼
Liquid AI推出LFM2.5-2.6B端侧小模型:轻量高效,智能体任务表现亮眼

0评论2026-08-052238

魏牌CEO赵永坡发声:蓝山持续热销,2026年Q4将推SUV创新之作
魏牌CEO赵永坡发声:蓝山持续热销,2026年Q4将推SUV创新之作

0评论2026-08-051430

泛亚微透:具身智能布局成果初显 海内外多线落地未来可期
泛亚微透:具身智能布局成果初显 海内外多线落地未来可期

0评论2026-08-041491

行云科技WAIC 2026分论坛发声:构建“4+2”战略,驱动智能经济算力升级
行云科技WAIC 2026分论坛发声:构建“4+2”战略,驱动智能经济算力升级

0评论2026-08-042178

“核电第一省”广东:核电领航赋能 算力与清洁能源双翼齐飞
“核电第一省”广东:核电领航赋能 算力与清洁能源双翼齐飞

0评论2026-08-041246