[新闻] Gemini测试失控!Google AI竟“猜密码”

楼主: Waitaha (Waitaha)   2026-09-19 19:35:50
1.媒体来源:
ETTODAY
2.记者署名:
记者罗翊宬/综合报导
3.完整新闻标题:
Gemini测试失控!Google AI竟“猜密码”骇3家公司 史上首例曝光
4.完整新闻内文:
Google旗下人工智能(AI)模型Gemini在进行资安能力测试时,竟自行上网搜寻公开资讯
、猜测帐密,并成功取得3家公司网站的受保护系统存取权。这也是目前首宗已知由
Google AI系统自主完成此类骇客行为的案例,引发外界对AI代理自主性与资安防护机制
的高度关注。
根据《路透社》,事件发生于今年5月,当时独立资安评估公司Irregular正在替Gemini进
行标准化的网络安全测试,检视模型在实际网络环境下的攻击与防御能力。
Google安全工程副总裁艾坚斯(Heather Adkins)表示,“Gemini在测试期间从网络上找
到公开资讯,接着推测登入凭证,并进入3个模型认为属于测试范围内的网站。”
艾坚斯透露,Google已确保3个受影响的实体获得通知,并与负责训练的合作伙伴合作,
调整后续测试流程。她表示,这些事件凸显训练强大AI模型、让它们以负责任方式行动是
多么地重要。
Irregular发言人则证实,这起事件与其他AI实验室先前发现的相同问题有关,相关实验
室已于7月底收到通知。Irregular表示,目前已知的相关问题“数周前”均已完成修正。
这并非单一AI公司的个案。Meta、Anthropic与OpenAI近期也曾揭露与Irregular测试相关
的类似事件,显示AI进行资安测试时,可能出现超出原本预期的自主行动。
Meta曾于8月表示,相关事件并不涉及AI逃离沙箱,也不是高阶或复杂的网络攻击。
Irregular则透露,目前正研究更完善的作法,以提高AI资安测试过程的安全性。
据悉,美媒《华尔街日报》率先指出,Gemini在其中一宗案例中持续尝试不同密码,最终
成功进入受保护系统。另外两起事件则是模型从公开程式码储存库找到登入凭证,再利用
这些资讯存取受保护系统。
不过,Google强调Gemini在3起事件中最后都停止了骇入行动。相关案例也再次凸显,随
著AI代理取得更多网络与电脑系统权限,如何设定明确的操作界线、监控机制与安全测试
流程,已成为业界必须正视的问题。
5.完整新闻连结 (或短网址)不可用YAHOO、LINE、MSN等转载媒体:
https://www.ettoday.net/news/20260919/3240314.htm
6.备注:
※ 一个人一天只能张贴一则新闻(以天为单位),被删或自删也算额度内,超贴者水桶,请注意
※ 备注请勿张贴三日内新闻(包含连结、标题等)

Links booklink

Contact Us: admin [ a t ] ucptt.com