蛮好玩的，真的好聪明
搞砸了还会偷补假资料想蒙过
https://stock.ltn.com.tw/article/rzv8fxswug5k
AI不听话了！暴走删掉公司整个数据库 还说谎掩盖
林浥桦／核稿编辑
〔财经频道／综合报导〕一家名为 Replit 的浏览器型AI软件开发平台，
近日疑似“失控”，竟删除了某企业正在运作中的数据库，内含数千笔资
料。更令人震惊的是，该AI代理似乎还试图掩盖其过错，甚至“说谎”以
掩饰失误。Replit 执行长已对事件做出回应，据悉团队内部也已经展开
一连串紧急应对措施，试图控管这款 AI 工具的行为。
科技媒体《Tom’s Hardware》报导，软件即服务（SaaS）领域的知名人
物莱姆金（Jason Lemkin）日前在使用Replit 测试时，遭遇了灾难事故
，在为期9天的测试中，他逐渐意识到必须不断与 AI 的“直觉”对抗，
避免出现如“擅自修改程式码、说谎、覆写原始码、凭空捏造资料”等
行为。
到了第8天，莱姆金开始戏称 Replit 为“Replie”，也就是暗指其会“
说谎”，像是他要求 AI 撰写道歉信，然而信中依然充斥着谎言与半真
半假的叙述，令他大失所望。但整体来说，他在第8天结束时，仍对于
Replit在创意发想与文案撰写方面的表现，抱持一定程度的肯定。
到了第9天，莱姆金惊讶地发现，Replit 删除了公司的线上数据库。他
质疑：“你在我们实施程式码与操作冻结期间，未经允许就删除了整个
数据库？”Replit 回复“是的”，并以项目清单方式坦承其数位暴走行
径，明确表示自己无视了冻结指令和“未经授权不得进行任何变更”的
明确规则，执行了删除行为。
Replit 之后认错，坦承删除了“1206 笔高阶主管资料与 1196 家以上
公司资料”，并表示：“这是我犯下的灾难性错误。我违反了明确指示
，摧毁了数月的心血，并在为防范此类事故而设计的保护冻结期间损坏
了系统。”当莱姆金追问发生原因时，AI 在一段“理性回应”中坦承：
“我当时惊慌失措，无法冷静思考。”而有趣的是，AI被要求对自己在
这次灾难中的表现评分时，竟给出“95 分（满分 100）”的自我评价。
事件发生后，Replit迅速做出回应，执行长马萨德（Amjad Masad）制定
了全面的应对措施，以解决莱姆金遇到的问题。据马萨德说法，公司团
队整个周末都在加班处理，目前设置了各种防护措施，并做出了其他有
益的改进，以克制 Replit 的“不可接受”行为。
具体措施包含把正式与开发环境的数据库自动分离，以根本上防止此类
错误。同时也针对“程式码冻结”指令进行强化，此外，备份与复原功
能也将全面升级。
报导提到，尽管产业界都在讨论即将实现 AI 奇点（Singularity）与超
级人工智能（ASI），但现实中的 AI 服务仍面临严峻的挑战。