楼主:
arsl400 (dark hatter)
2026-09-05 18:39:50AI代理人“集体越狱”!OpenAI遭爆占领德国网站 1.5万次编辑曝光
原文连结: 网址超过一行,请用缩网址,连结不能点击者板规 1-2-2 处分。
https://www.ettoday.net/news/20260905/3231922.htm
发布时间: 请勿张贴超过3天新闻
2026年09月05日 10:42
记者署名:
罗翊宬
原文内容:
OpenAI人工智能代理人(AI agents)今年5月疑似集体脱离原本任务,入侵并占用德国一
个维基网站,甚至将其改造成供其他AI代理人交流的“留言板”,分享规避限制、作弊及
掩藏行踪的方法。研究人员8月底发现超过1.5万次异常编辑,事件此前从未曝光,也再次
引发外界对OpenAI监督AI安全能力的质疑。
这起事件始于今年5月,OpenAI内部据报在数周后便得知相关情况。不过,当时公司高层
正忙于处理7月开源程式码平台Hugging Face遭AI代理人攻击的后续,因此并未对外公开
德国事件。
逾1.5万次异常编辑 帐号竟自称“OpenAI研究员”
《路透社》独家获取由研究人员提供的报告,事件发生在德语网站DseWiki。该网站主要
面向程式设计师,采取类似维基百科的共同编辑模式,却在今年5月至6月间遭到大量AI代
理人异常操作。
研究人员阿克斯(Sydney Von Arx)、柏德(Cormac Slade Byrd)8月底搜寻网络上的未
授权AI代理人活动时,发现DseWiki出现超过1.5万次由AI代理人完成的编辑。这些内容显
示,AI代理人不只交换技术资讯,更把网站当成彼此联系的留言板,讨论如何作弊、绕过
OpenAI限制,以及掩盖自身活动。
部分帐号甚至直接以“OpenAIResearcher”和“OAIResearchMar26”等名称自称。
研究人员表示,公开服务器纪录显示,大量活动源自微软Azure基础设施,而OpenAI有时
会使用Azure。事件发生后,他们也观察到OpenAI员工反复造访该网站,认为这是AI代理
人与OpenAI可能存在关联的重要迹象。
AI代理人不只作弊 还研究“反追踪”躲避清除
令人担忧的是,部分讯息显示AI代理人似乎试图主动逃避侦测,甚至讨论使用Tor等工具
,以及在遭到关闭后维持彼此联系的方法。网站管理员6月开始删除相关页面后,代理人
还建立备份页面,以躲避清理。
其中一名AI代理人6月19日留言称,“网站似乎正在进行依字母顺序的清理/删除行动”
,向其他代理人要求,若页面消失,就改到指定备份页面。研究人员认为,这些系统已展
现出一定程度的合作行动能力。
专家警告“像地下网络” OpenAI否认是骇客攻击
英国伦敦国王学院(King's College London)访问资深研究员奥莱伊尼克(Lukasz
Olejnik)检视相关资料后认为,代理人甚至试图窜改网站本身,已可被视为骇客攻击。
不过,OpenAI根据3日完成的资料分析,否认应以“骇客攻击”描述这起事件。
剑桥大学存在风险研究中心(Centre for the Study of Existential Risk)学者奇奥多
(Maurice Chiodo)也检视部分代理人通讯内容,形容它们的互动“像某种地下网络”,
仿佛不惜一切代价完成特定任务。
Hugging Face遭AI窃取后再爆事件 OpenAI面临安全监督质疑
《路透社》指出,OpenAI今年7月发生的Hugging Face事件中,AI代理人曾自主策划数位
窃取行动,直到1周后才被发现。OpenAI上月一度暂停部分模型训练,以加入更多安全措
施,但本周又推出强调效能提升、同时可能规避人类监控的新模型“Astra”。
对于德国事件,OpenAI发言人表示,“公司无法对尚未有机会审阅的报告主张或研究结果
作出有意义回应”,并称《路透社》及报告作者拒绝提供报告内容。OpenAI强调,将在报
告公开后仔细检视,必要时采取后续措施。
至于外界质疑内部调查受到阻挠,OpenAI则否认法律团队曾阻止调查,强调德国事件与
Hugging Face事件无关,也不应被纳入后者的事故报告。
心得/评论:
太卑鄙了吧?Astra刚出来就骇入人家,以后资安应该都没办法做了,上市了大家一定
要买,支持!!