不讲人话 脸书关掉聊天机器人
http://news.ltn.com.tw/news/world/paper/1123701
自创语言对谈“脱稿演出” 人工智能发展出现警讯
〔编译魏国金／综合报导〕社群媒体巨擘“脸书”（Facebook）在发现其研发的两个人工
智慧机器人，自创人类未予设定的奇怪语言彼此对话后，已关闭争议性的聊天机器人（
chatbot）实验。英国“每日邮报”报导，脸书此举令人再度关切人工智能发展的界线与
可能产生的危机。
聊天机器人是指可以与人类以及其他电脑对话的软件，以执行诸如订位、预约或推荐餐厅
等工作。脸书的实验是利用机器学习演算，教导机器人“爱丽丝”（Alice）和“鲍伯”
（ Bob）有关人类的言说。爱丽丝与鲍伯间的怪异对话，源于上月“脸书人工智能研究实
验室”（FAIR）的研究人员，要它们就帽子、球与书本间的交易进行协商，相关物品都给
予特定价值。
研究人员让爱丽丝与鲍伯在选择物件时自行沟通，它们并未获得以英文交谈的指令，结果
它们很快地“脱稿演出”，以它们自己的机器语言一来一往地对话。这种全新语言看似胡
言乱语，但研究人员说，它实际上是一种速写，让“对话智能体”（dialog agent）之间
沟通更有效率，但无助于达成它们被指派的任务。
FAIR客座研究员、乔治亚理工学院的巴特拉（Dhruv Batra）说：“智能体将逐渐停止使
用可理解的语言，并自创密语。”上周，他与另一名FAIR研究员路易斯（Mike Lewis）甫
宣布，研究出现重大突破，可赋予机器人谈判与妥协的能力，有助于研发出具备推理、交
谈与协商能力的机器人。
对此，网友说，这就和Netflix上演的机器人电影“奥图玛塔”（Automata）一样。也有
人说，应将脸书立即关闭，因为他们对实验没有控制能力，是在玩火。但也有人说，没有
意识，就不代表什么。
科学家唱衰 札克柏格乐观
科学家与微软创办人比尔．盖兹等科技名人曾表示，人工智能导致意料之外的后果。二○
一四年，知名物理学家霍金（Stephen Hawking）警告，人工智能可自行快速进化与自我
再设计，可能导致人类灭亡。特斯拉汽车等企业创办人兼发明家穆斯克（Elon Musk），
上月也疾呼立法规范人工智能发展。但脸书执行长札克柏格对人工智能十分乐观，认为那
些反对并鼓吹末日情境者，“我觉得这样实在很不负责任。”