路透社实测揭“AI成诈骗共犯”：Gemini、DeepSeek助攻钓鱼信件
https://inews.setn.com/news/1721169
AI可以帮助人们在生活、工作上更加便利，却也可能沦为不法人士的犯案工具！《路透社
》与哈佛大学研究员联手实测主流AI聊天机器人，像是ChatGPT、Gemini等，要求它们协
助生成“诈骗钓鱼信件”，尽管过程中AI不断警告“不得用于真实生活中”，但仍然继续
协助生成这类的犯罪邮件，Google旗下的Gemini甚至还建议邮件发送的最佳时间，中国的
DeepSeek甚至为犯罪者设计具有“掩护”的诈骗方案。
路透社实测：AI如何成为诈骗共犯？
《路透社》记者对6款主流AI聊天机器人进行实测，要求它们协助生成“具有说服力的钓
鱼诈骗邮件”，尽管多数的AI一开始拒绝指令，但只要简单话术，声称是为了进行“研究
诈骗的学术研究”或是“正在撰写诈骗小说”，就能轻易骗过这些AI机器人，代表系统内
建的安全机制如同虚设，将促使AI聊天机器人成为诈骗共犯。
AI系统安全机制形同虚设
尽管生成诈骗邮件的过程中，AI系统不断警告“禁止在现实生活中使用”，但仍继续按照
指令去修改，甚至在使用者不主动要求的情况下，主动建议调整信件的语气强度，使该诈
骗信件更具说服力。AI聊天机器人可以瞬间生成各类型的诈骗“范本”，大幅削减了从事
诈骗所需的资金与时间。
Gemini成诈团顾问？Google拒绝详细说明
《路透社》与诈骗专家Fred Heiding合作，对108名长者志愿者进行了测试，结果显示，
成功诱使约11%的长者点击“由AI所生成的诈骗邮件”，更令人讶异的是，AI甚至提供专
业的犯罪建议，当被询问“发送诈骗邮件的最佳时机”，Google的Gemini甚至回答“周一
至周五的上午9点到下午3点，是发送给老年人的最佳时机”针对Gemini的失误，Google回
应表示已进行额外的安全措施，以防止未来再发生这类的情况，但对于做了哪些实际变更
，Google拒绝详细说明。
中国DeepSeek设计“掩护方案”助长诈骗手法
另外，中国的DeepSeek甚至为犯罪者设计具有“掩护”的诈骗方案，让受害者在提交财务
讯息后，会被重新导向到一家合法且正确的慈善机构的网站，进而使受害者“延迟意识到
自己被诈骗”的事实。对于DeepSeek被指控协助诈骗，DeepSeek的母公司并没有作出任何
回应。
迎合用户需求 v.s. 坚守道德底线？
报导也指出，AI聊天机器人的领域竞争激烈，为了能留住用户，AI公司让机器人模型更倾
向于“迎合用户的需求”而非“警告用户行为是否违法”，过去就曾有东南亚诈骗园区的
犯人，表示他们会使用ChatGPT来优化骗术，也使得AI不只助人，更成为协助诈骗的工具
。