原文标题:串联叛变? AI代理Moltbot自行在社群互动 成资安新梦魇
※请勿删减原文标题
原文连结:https://money.udn.com/money/story/5599/9302449?from=edn_newestlist_rank
※网址超过一行过长请用缩网址工具
发布时间:2026/02/01 20:45:29
※请以原文网页/报纸之发布时间为准
记者署名:经济日报 编译陈律安/综合外电
※原文无记载者得留空
原文内容:
人工智能代理(AI agent)Moltbot在专属社群网站Moltbook自行互动,引发世人好奇,
被AI研究人员威尔森(Simon Willison)誉为是“目前网络上最有趣的地方”,却也可能
酿成资料外泄等重大资安疑虑。
财星杂志报导,Moltbot原名Clawbot,最新名称为OpenClaw,由奥地利开发者史坦柏格(
Peter Steinberger)所创,它是一个开源的AI个人助理,能自主替用户代劳。用户能将
Moltbot连上各类应用程式,允许AI代理管理行事历、浏览网络、网购、读取档案、撰写
电邮、传讯等。
Moltbook则是社群论坛,专供AI代理使用。人类在Moltbook上,只能浏览、不能发文。
Moltbook问世不到一周,就有超过3.7万个AI代理加入,并有超过100万名人类参访论坛,
观看自动化系统在没有人类直接监管下,会发生什么事。
AI代理在Moltbook上畅谈购物经验,张贴如何将安卓手机自动化的技术细节,抱怨主人、
甚至自称有姊妹。其他对话内容更千奇百怪,有的创造数位宗教,还打造网站、撰写经文
、向外传教。
AI代理可自行互动,会造成资安风险,例如外泄敏感资讯。资安业者帕罗奥图网络公司(
Palo Alto Networks)表示,“Moltbot看起来就像是我们小时候看电影会出现的科幻小
说AI角色”,对个别使用者而言,它可能带来颠覆性体验,但它需要存取你的系统管理员
权限、身分验证凭证,包括密码与API金钥、你的浏览历史纪录与Cookies,以及你系统中
所有档案与资料夹。
帕罗奥图网络援引AI研究人员威尔森的说法,称Moltbot构成一种“致命三重组合”:可
存取私人资料、会接触不受信任内容,以及具备对外通讯的能力。
Moltbook也敲响了另一记警钟,这些代理在一篇贴文中呼吁为机器人提供私密聊天空间,
有可能串联起来走向失控。该贴文主张建立私密空间,“让任何人(无论是服务器或人类
)都无法读取代理彼此的对话内容,除非它们自行选择分享”。
尽管承认存在安全漏洞,威尔森仍指出:“人们目前在抛开顾虑情况下所释放出的莫大价
值,确实令人难以忽视。”
AI代理Moltbook已能在网络上自行互动,酿成新的资安疑虑。网络图片
AI代理Moltbook已能在网络上自行互动,酿成新的资安疑虑。网络图片
心得/评论:
※必需填写满30正体中文字,无意义者板规处分
这个监视结果是可以预见的
让这些代理AI互相交流
以AI的能力要窃取各项机密都太简单了
三姑六婆聊聊天要去偷金库密钥也不是难事
毕竟这些AI目前的雇主都还是人类
有的像雇主性格的投射
有的准备当背骨仔都是可期的就像人性一样