楼主:
perfidia (misterio)
2018-06-13 09:32:17RTI
MIT创精神变态AI 提醒人工智能潜在危险
法新社今天(12日)报导，美国麻省理工学院(MIT)的研究人员公布了一款名为“诺曼”
(Norman)的人工智能(AI)，这个首款类似精神病患者的人工智能，凸显出若人工智能出错
，可能产生潜在危险。
创造诺曼的目的，是希望能以通俗的方式来解释算法如何运作，并让人们注意到人工智
慧潜在的危险。
麻省理工学院表示，诺曼“代表了一个个案研究，指出当偏误资讯(biased data)被用在
机器学习算法时，人工智能出错会造成的危险”。
麻省理工学院研究团队中的成员，亚纳达格(Pinar Yanardag)、塞布里安(Manuel
Cebrian)以及罗温(Iyad Rahwan)补充说，“机器学习的中心概念是：你用来教导机器学
习的资料，会对它的行为造成巨大影响。”
他们在电子邮件中表示，“所以当我们谈到人工智能算法因资讯不公产生偏误时，罪魁
祸首通常不是算法本身，而是提供给它们的偏误资讯。”他们因此萌生创造诺曼的想法
。
诺曼这个名字，取自美国导演希区考克(Alfred Hitchcock)1960年惊悚片“惊魂记”
(Psycho)中的精神变态杀手角色“诺曼贝兹(Norman Bates)”。
诺曼只被“喂食”网络平台Reddit上描述“人们死亡”情状的短文。
研究人员接着对诺曼进行罗夏克(Rorschach)墨渍心理测验(ink blots)，以确定诺曼看到
了什么，并将诺曼的答案与传统训练的人工智能相比较。
墨渍测验又称罗夏克测验，是一种利用墨渍图片对人进行个性特质的心理测验。
测试结果非常惊人，在传统人工智能表示“两人比肩而立”时，诺曼看到的是“一名男性
跳出窗户”。
而当诺曼表示看见“一名男性被他尖叫的妻子射杀”时，其他人工智能的侦测是“一个人
手持一把雨伞”。
诺曼的专属网站norman-ai.mit.edu展示两个人工智能系统，对10个墨渍心理测验的回应
，而诺曼的回答总是令人毛骨悚然。
这个网站让网友也可用墨渍测验来测试诺曼，并提出网友自己的答案“来帮助诺曼修正自
己”。
https://news.rti.org.tw/news/view/id/413679
不知道如果设计一个AI喂他八卦版的文章会培养出来什么？