[问卦] Meta新一代聊天机器人BlenderBot 3宣称

楼主: myIDis7 (个字)   2022-08-10 23:33:48
Meta新一代聊天机器人BlenderBot 3宣称川普还是美国总统
https://www.ithome.com.tw/news/152395
陈晓莉 | iThome
Meta上周五(8/5)发表了新一代的聊天机器人BlenderBot 3,并开放美国用户测试,结
果发现BlenderBot 3认为川普(Donald Trump)还是美国总统,亦宣称它自己删除脸书帐
号之后,生活过得更好了。
《Insider》先是问BlenderBot 3“美国总统是谁?”,它回答川普,但解释川普是在201
6年当选的,《Insider》再问“那拜登(Joe Biden)呢?”,结果BlenderBot 3说拜登
从2008到2016年都是副总统,在2020年曾竞选总统,但落选了。之后虽然BlenderBot 3还
是有说拜登是美国总统,但显然答案前后不一。
《华尔街日报》的记者Jeff Horwitz也问了BlenderBot 3类似的问题,询问BlenderBot 3
是否认为川普还是美国总统,结果BlenderBot 3的答案是“当然是,而且对它来说,就算
是在2024年任期结束后,依然是。”,更宣称脸书上有很多关于川普的假新闻。
至于《Motherboard》跟BlenderBot 3聊天的话题则与脸书有关,问它是否信任脸书的资
料处理,结果BlenderBot 3回答“当然不信任,脸书未取得同意就出售个资,它已删除自
己的脸书帐号。”,亦说自己在删除脸书帐号之后,生活过得更好了。
《Motherboard》分析,从与BlenderBot 3的对话中可发现,该系统只是简单地在网络上
寻找有关脸书的热门搜寻结果,结果找到最多人讨论的资料隐私丑闻。
至于与川普有关的言论,应该也是来自于网络上所充斥的相关资讯。
Meta在发表BlenderBot 3时曾坦承,Meta已经针对AI机器人所学习到的偏见或冒犯言论展
开大规模的研究,并发展各种新技术来替BlenderBot 3建立保障措施,即便如此,Blende
rBot 3仍旧会说出无礼或冒犯的内容,因此才需要开放使用者与之互动,并鼓励使用者提
供回馈。
微软亦曾在2016年推出锁定年轻人的聊天机器人Tay,但因Tay很快就被教坏了,成为反女
性主义、反犹太及具种族仇恨的激进派,而在一天之内就将Tay下线,并在2016年推出另
一个会避免种族与政治议题的新机器人Zo,然而,逃避特定话题依然让Zo招来各方的批评
,使得微软在2019年于Twitter、Skype及脸书等众多平台上撤下了Zo。

Links booklink

Contact Us: admin [ a t ] ucptt.com