※ 引述《edward40812 (甘草@葵歌剧団)》之铭言
: 一名25岁 曾任职于高盛的华裔分析师
: 因为在ChatGPT中
: 详细策划，演练强暴、杀害前女友及其家人
: 遭OpenAI侦测发现并通报FBI
: 警方获报后旋即逮捕该分析师
: 该分析师自三月开始向ChatGPT诉苦
: 但对话渐渐变成具体的暴力威胁
: 内容包含了前女友的作息、兴趣
: 及模拟持枪绑架、性侵、酷刑及谋杀后自杀
: 之后更开始加入女友家人及到场警察的反应等
: 法院将在近日宣达判决
: 这基本上代表与OpenAI旗下AI的对话
: 仍然会受到系统及人工审查
: 唉唉
: 科技越来越进步
: 隐私越来越退步
之前让Gemini帮我翻译一首歌的歌词，结果有一段歌词是Say what you're thinking, kill
who you're killing，翻译过来就是：
说你想说的想法，杀你想杀的人
然后AI翻译到这段还要跟我强调这只是比喻。妈的我还用你讲？不是比喻难道是歌手真的去
杀人吗？