AI生成川普被捕、普廷入狱影像 专家警告：加剧假消息传播
https://img.ltn.com.tw/Upload/news/600/2023/03/24/4250478_1_1.jpg
调查记者希金斯透过AI合成川普与警察冲突影像，在推特上一阵轰动。（美联社）
2023/03/24 21:24
〔编译孙宇青／综合报导〕
在人工智能（AI）聊天机器人掀起议论之际，AI影像合成技术也更臻成熟，近期网络上即
出现美国前总统川普被捕、俄罗斯总统普廷入狱等以假乱真的AI制图，且正好切合川普自
曝即将被捕，以及普廷遭国际刑事法院（ICC）通缉等时事，引起网友热烈转发讨论。然
而，假消息专家警告，这恐怕会成为有心人士操纵舆论的新模式。
《美联社》及《华盛顿邮报》指出，荷兰开源情报网站“冒险者”（Bellingcat）创办人
希金斯（Eliot Higgins）一时起意，将川普自揭可能因“封口费案”遭刑事起诉的消息
影像化，于是向具有模仿新闻机构专业影像能力、且刚发布新版“文生图”（text-to-
image）合成模式的AI绘图软件Midjourney下指令，创造出川普被纽约市镇暴警察团团包
围、在被捕过程跌倒、与警察对峙，以及川普穿囚衣、蹲苦牢，甚至是川普从下水道逃狱
成功、跑到知名速食店吃汉堡等各种影像。
不仅如此，ICC日前以战争罪名向俄国总统普廷发布拘捕令一事，也成为希金斯的灵感来
源，同样透过AI制作出普廷被捕、受审、入狱的逼真影像。
希金斯将影像分享到推特，并清楚说明这是AI制图，不带任何恶意。他原先以为会乏人问
津，不料两天后，川普AI制图的观看次数竟超过500万次。希金斯表示，川普影像只是为
了展现Midjourney在描绘真实场景时的优劣，当他输入指示，程式就自动拟定一套情节，
但若细看就能发现其中很多破绽，包括照片中的川普竟穿戴警察腰带，还有很多人的脸和
手都明显扭曲等。尽管如此，照片仍引起轰动，而希金斯也被禁止使用Midjourney服务。
假消息专家警告，Midjoureny或DALL-E等AI制图软件，具有在使用者下达简单指令后，运
用详细背景资料快速制成真实场景的能力，这意味以后只要出现重大消息，就能透过AI生
成海量的假照片或影片，并在社群平台上广为散布，导致社会在刚接触某一事件的最重要
阶段，就无法辨别事件真相。西雅图华盛顿大学专研假新闻传播的教授威斯特（Jevin
West）坦言，这会在危机发生时增添杂音，让人们开始对体制和接收的讯息失去信赖。
非政府组织“见证”（Witness）媒体技术专家安伦（Shirin Anlen）表示，尽管希金斯
或其他使用者有表明影像是由AI合成，且只是博君一笑，但这样还不够，因为这些影像通
常很快就会被分享出去，但不包括注明文字。事实上，川普被捕的影像就被Instagram一
则贴文转贴，还得到超过7万9000个赞，“只要看到照片，人们就认定眼见为凭了。”
联邦参议院情报委员会民主党籍主席华纳（Mark Warner）表示，政策制定者多年来一直
对合成媒体被滥用于散播假消息提出警告，虽然这项技术花了几年才发展出这种能力，但
“我们正处在这种工具已普及、且功能卓越的临界点”。华纳也提醒开发者，若已可合理
预判旗下产品会直接造成伤害，开发者就可能必须负起责任。
自由
https://news.ltn.com.tw/news/world/breakingnews/4250478