[新闻] 英国卫报控ChatGPT捏造新闻 逼真程度让

楼主: inthere8 (Zona)   2023-04-07 19:56:02
1.媒体来源:
上报
2.记者署名:
刘孜芹
3.完整新闻标题:
英国卫报控ChatGPT捏造新闻 逼真程度让记者都相信“自己写了”
4.完整新闻内文:
人工智能(AI)聊天机器人“ChatGPT”在短短3个月,用户便以每月1亿人的速度激增,
创下纪录。在ChatGPT爆红的同时,英国“卫报”意外发现ChatGPT会凭空杜撰新闻报导。
卫报正针对这项问题,组成专业团队,将在近期公布卫报使用这类AI程式的标准,以坚守
新闻道德操守,并对旗下发布的文章负责。
卫报(The Guardian)编辑创新负责人莫兰6日撰文表示,旗下记者上个月收到一封电子
邮件,一名研究人员在信中提及一篇卫报记者几年前就特定主题撰写的文章,但在卫报网
站及各大搜寻引擎都未找到这篇文章,令编辑部怀疑是否这篇报导在刊出后更改过标题,
或发现某个问题而从网站下架,还是有人透过法律途径将其强制撤稿。
这位记者不记得自己写过这篇文章,但标题看起来的确像是卫报记者会写的东西。由于担
心报社系统出现问题,莫兰要求同事在系统中找出这篇文章;然而,在尝试过所有办法之
后,就是遍寻不著这篇文章,原因在于“从来就没有人写过这篇报导”。
致函的研究人员告诉卫报,他们使用ChatGPT进行研究。莫兰认为,是ChatGPT在被问及特
定主题的报导时,编造了部分内容。ChatGPT的流畅性及其建立的大量训练数据,意味着
即使从未写过这篇报导的“作者”,也可能相信这篇虚构文章的存在,“或许他曾经写过
”。
莫兰指出,目前已有大量发现,生成式人工智能(Generative AI)具有捏造事实与事件
的倾向,这种“发明消息来源”的特殊问题,尤其让值得信赖的新闻机构及记者感到不安
,因为这些虚构文章若署名某些机构或记者,将大大增添它们的说服力与正当性。
他说,对于读者及更广泛的讯息生态系统而言,ChatGPT提出了能否全然信任引述内容的
全新问题,同时也可能助长秘密删除敏感文章的阴谋论;但其实这些文章本来就不存在。
莫兰更警告说,ChatGPT去年11月甫推出时乏人问津,但到今年1月已经有每月1亿个活跃
用户,而大受欢迎的中国短影音应用程式TikTok,花了9个月才达到相同的数据。微软(
Microsoft)、Google等科技公司后来也纷纷推出自己的聊天机器人,凸显聊天机器人的
爆红会让这些捏造问题并非只是个案。
莫兰还提及,另一名学生在两天前联系卫报的档案团队,询问另一篇具名记者撰写的文章
,社方也未在系统中查到这篇文章,来源同样来自ChatGPT。
他指出,人们很容易陷入生成式AI所提供的细节,因为它的不透明性。而负责任的新闻机
构所面临的问题则是既简单又紧迫:这项技术现在能做什么?当广泛的讯息生态系统已经
受到错误讯息的误导,如何使用ChatGPT来撰写负责任的报导?
莫兰声称,这正是卫报目前致力解决的问题,报社已筹组小型工程团队,专注于技术学习
、考虑公共政策及智慧财产权问题、听取学者及从业人员的意见、与同业讨论、咨询并培
训员工,安全且负责任地探索这项技术,能够如何应用在新闻报导上。
卫报近期将发布说明,叙述卫报未来将如何使用生成式AI,以坚守最高的新闻标准,为报
社发布的新闻向读者及世界负责。
5.完整新闻连结 (或短网址)不可用YAHOO、LINE、MSN等转载媒体:
https://bit.ly/3GpzpaM
6.备注:
觉得未来问题会越来越多的请举手(自己举
这就像刀一样,工具本身不是最大的问题,问题在于使用者
一把刀可以拿来切菜做美食,也可以拿来砍掉人头
(所以说逆刃刀...不我在讲什么XD
署名真的是不行欸(摀脸

Links booklink

Contact Us: admin [ a t ] ucptt.com