1.媒体来源:TechNews
2.完整新闻标题:
Facebook AI “失控”的真相
3.完整新闻内文:
http://imgur.com/mV24u3I.jpg
“Facebook 关闭“失控”的人工智能系统，因其发展出人类无法理解的语言。”看到这
句话吓死了。
事情是这样的：据“外媒报导”，Facebook 开发的聊天机器人创造了自己的语言。虽然
语言还是英语，但人类无法理解。
关于“人工智能是否邪恶”的话题，Facebook 创始人马克‧祖克柏上周还在跟特斯拉
CEO 马斯克争吵。马斯克站正方，认为人工智能非常值得担忧，祖克柏站反方，认为人工
智慧很有益处，担忧完全是过虑。
所以……祖克柏就这么快就被打脸了？曾在著名科幻电影《魔鬼终结者》中出现过的“
SkyNet”（天网），真的来临了？
抱歉，这完全是在胡扯。我们来看看到底是怎么一回事。
Facebook 的人工智能研究院（FAIR）想要训练一个聊天机器人，让它学会谈判，于是他
们开发了一个人工智能系统。为了帮助大家理解，我们一步一步解释：
Facebook 用了一个神经网络结构来开发这个系统。这个结构叫做“生成式对抗网络”（
Generative Adversarial Networks），以下简称 GAN。
你可以把神经网络理解为一种多层次的、模仿人脑神经元之间相互连接的思考方式的“电
脑程式”。
而 GAN 是一种在目前非常先进的神经网络结构，可以理解为两个神经网络玩《快打旋风
》。玩的越多、时间越长，大家的水准都会越来越高。当然，GAN 也有 3 个甚至更多个
神经网络的结构。
聊天机器人你肯定见过：苹果 Siri 就是一个，亚马逊 Alexa 和 Google Assitant 也是
。
Facebook 的这项研究也是如此。研究人员训练了这样一个聊天机器人，让它带着“目的
”和人类对话。而这个目的也很简单：一共有两本书、一顶帽子和 3 个篮球，3 样东西
分别设定了不同的权重，为的是让机器人明白它到底有多想要这些东西，然后去和其他人
谈判。
Facebook 观察到的结果是比较正常的，呈现在下图中：
http://imgur.com/TLTxY7Q.gif
（Source：Facebook）
但是人跟机器人聊天已经不稀奇了……两个机器人能聊成什么样？研究人员都很感兴趣。
今天的对话就发生在聊天机器人 Alice 和聊天机器人 Bob 之间：
http://imgur.com/ympkScX.png
上图是什么鬼？
原来，研究人员把这两个聊天机器人凑到一起，但忘了给神经网络设定“用英语沟通”的
指令。
刚才说了，神经网络是个程式，里面有一大堆各种线性的数学公式，有时候线性的公式无
法取得想要的结果，有些非线性的需求没法用线性公式表达出来，这时候就要设定一个激
励函数。激励函数对于神经网络，简单来说就是告诉神经网络“这样做得分更高”。
“坚持用英语说话没有激励函数，”这个研究小组的成员之一、乔治亚理工学院的访问学
者 Dhruv Batra 这样解释 Alice 和 Bob 奇怪的对话。“机器人会脱线发明一些它们之
间才能理解的句法”。
结果，Alice 和 Bob 就聊成了这样。等于是研究人员告诉了它们：“请用英文”，但忘
了告诉它们：“请用英文语法”。
研究人员真的是因为“事情失控了”，才“不得不拔掉系统的插头”吗？事情真的像听上
去那样让人胆颤心惊吗？
并非如此。
“我们的目标是让机器人和人聊天（提高和人聊天的技巧）。”小组的另一名研究员
Mike Lewis 指出，Alice 和 Bob 的对话根本就是个试验而已，让两个聊天机器人聊天根
本没有意义。
http://imgur.com/YE3uSih.png
（Source：Facebook）
而且，Alice 和 Bob 根本就没有发明新的语言，因为他们还是在用“i”、“balls”、
“the”等英文单字沟通，只是创造了一种新的表达方式而已。
而且他们“发明”的新语言，人类真的听不懂吗？再看一遍它们的对话：
Bob: I can ii everything else
Alice: balls have zero to me to me to me to me to me to me to me to me to me
Bob: you i everything else
Alice: balls have a ball to me to me to me to me to me to me to me to me
如果你明白了前面描述的试验目的，很容易就能明白它们的套路。句法的确是乱的，但一
句话里 to me 重复的越多，这个东西对它的意义越大（权重越高）。
翻译过来就是：
Bob：我可以我任何其他（其他任何东西都可以给你）
Alice：球有 0 对我对我对我对我对我对我对我对我（我没有球，球对我特别特别特别特
别特别特别特别特别重要）
Bob：你我任何其他（你可以拿走其他任何东西）
Alice：球有球对我对我对我对我对我对我对我对我（我要球，球对我特别特别特别特别
特别特别特别特别重要）
而且根本不是在谈判，就是很普通的表达而已。不给就吵嘛……
Facebook 并没有“关掉”这个系统，而是重新设定了正确的激励，修正了机器人的行为
，让机器人用标准的英文语法来进行交流。修正的原因也不是因为害怕 AI 失控──他们
的目标是让机器人和人聊天（提高和人聊天的技巧）。两个聊天机器人聊天根本没有意义
。
GAN 这个东西，苹果曾经用它搭建了一个系统，让它自动合成能以假乱真的图片，但设计
的目的并非欺骗人，而是为学界和业界的其他研究者带来帮助。因为训练神经网络需要大
量的图片，但世界上已有的、已标记的图片数据库也就那么多，苹果的这项研究，能自动
创建带标记的、能被用来训练的图片，解决了大家燃眉之急。
http://imgur.com/F9P5tQL.png
今年 2 月，笔者介绍过 Google 本部的人工智能团队 Google Brain 做的另外一个实验
：同样用GAN，他们训练了 3 个机器人 Alice、Bob 和 Eve，让 Alice 和 Bob 两人从零
开始琢磨出一个加密方法，让 Eve 来猜。这 3 个网络的加密学知识都是 0，但随着训练
次数越来越多，Alice 和 Bob 默契越来越好，Eve 也破解不了。
http://imgur.com/KUR462v.png
──这才是发明了人类都不懂的语言，可是也没看见 Google 着急啊。
人工智能能够帮助人类做很多事情，比如图像辨识技术就被投入到图片搜寻引擎中，当你
在搜寻引擎里搜寻关键词，选择图片，才能找到符合描述的照片。
再比如语音辨识和自然语言理解技术，当你和 Siri、Alexa 说话的时候，它们才能比较
准确地理解你的意图。
从神经网络技术的发展程度来看，人工智能的确很厉害了，但我可以告诉你的是：图像辨
识、语言理解准确度上能做到现在这么高，完全是因为人类程式设计调优的结果。
它既不知道自己是谁，也不知道自己在哪儿，更不知道自己在干什么。
所以和人工智能相比，那些成天瞎说人工智能威胁论的人才更可怕吧……
4.完整新闻连结 (或短网址):
https://goo.gl/NhzWqU
5.备注:
还早还早