部落格图文心得：https://maxjamesread.com/genius-makers/
自AlphaGo在 2016 打败棋王李世石以来，人工智能、深度学习等字眼相信大家早已不陌
生。面对这个 AI 急速发展的时代，你对这“智慧”了解有多少呢？推荐这本《AI制造商
没说的祕密》，带你一探AI的崛起之路，思索“它”的可能与危险。
作者凯德．梅兹是《纽约时报》科技记者，长期深耕人工智能、自动驾驶、机器人等领域
。书中他从“人”的角度出发，为读者带来一场精彩的AI演进简史。取材严谨，叙事流畅
，读来畅快又引人深思。
我的构想不是写此一科技，而是研发此一科技的人。
【AI的起源】
1958 年， 29 岁的康乃尔教授法兰克．罗森布拉特与他的海军同伴展示了一个名为“感
知器”的机器。罗森布拉特将两种卡片塞入机器，一张左边有方形记号，一张在右边。起
先机器无法辨别差异，但在 50 张卡片后，它开始能分辨卡片上的记号，左边、右边、右
边……，作答精确无误。
罗森布拉特表示，这是套模仿“人类大脑”的数学系统。在未来，“它”将可以学会辨识
手写字体、口语指令，甚至是人脸。据《纽约时报》报导，海军官员对于是否要将其称为
“机器”有些拿捏不定，因为它太像“人类”，只差没有生命。
海军设计出能够思考的科学怪人。
感知器是最早的“神经网络”之一，可说是AI（人工智能）的起源。罗森布拉特预言现在
看来精准的骇人，而他也被称作是深度学习之父。不过他在43岁时意外过世，继续推动AI
走到今天的，是一群神经网络狂热者……
【AI黑手党】
罗森布拉特的目标是打造能像人脑般“自我学习”的机器。科学家称这样的概念为“连结
主义”，因为它需要大量“神经网络”连结运算。与之相对的是“符号主义”，其步标是
打造能根据人类指示，在不同状况下做出不同反应的机器。
现在神经网络已然是人工智能显学，但这领域一度面临寒冬。过去很长的一段时间，神经
网络发展极度迟缓，不但被政府大删预算，大多数科学家也都转向符号主义的怀抱。那段
时间，研究人员为让论文被接受，甚至故意用像“函式近似”或“非线性回归”等名词取
代“神经网络”。
即便憋屈，但仍有一搓人对神经网络的充满信仰。这领域的关键人物有三人：辛顿、杨立
昆与班吉欧。整本书内容几乎都环绕在这“三巨头”身上。而他们也在 2019 年获得电脑
界诺贝尔奖的“图灵奖”。
当然神经网络的成功，绝非只靠这三人，还有太多太多人的共同努力。光书中提到的就有
数十人。在阅读的过程中，我感受到这群人对“梦想”的狂热。如同《失控的轰炸》中那
群相信精准轰炸的轰炸机黑手党般，这些人同样抱着宗派式的狂热，对神经网络一往情深
。开放人工智能实验室领导人阿尔特曼形容得传神：
自信是一股非常强大的力量，我所认识最成功的人士都相信自己，坚信不移，
甚至已到幻想的地步。
随着神经网络、深度学习的概念被认可，这些狂热终于转成真金白银。各大科技公司都捧
著高薪求才。书中提到，即便是刚出校门的菜鸟博士，年薪都高达 50 万镁。看得我不免
感叹入错行（笑）。敝司在美国给新人博的价码连 20 万镁都不到，根本云泥之别……
书中描述各种疯狂抢才大战，斗智斗力可说相当精彩。最后谷歌抢到了辛顿，而脸书则拥
有杨立昆，而他们的徒子徒孙们也都进入各大公司，一展长才。
【AI的强大可能】
话说回来，大家常听到的“深度学习”到底是什么？它是一种“多层”神经网络。不像感
知器只有单层，这方式可以借由将讯息传输给下一层，学习更复杂的事物。
比如给系统看一张狗的照片，第一层会分析像素颜色（黑、白、棕……）；接着将结果传
给第二层，第二层进一步分析像素模式（直线、弧线……）；第三层会继续检视这些像素
的其他模式，以此类推……最终就能辨识出一只狗的形象。
当然要实现这想法并没那么简单，光辨识出一只狗，就花了科学家大把时间。不过在这群
狂热者的奋战下，深度学习开始在各领域攻略城池。现在的深度学习系统已能精准判读语
音；稳定辨识手写字体；顺利在不同语言间转译；甚至还能作曲、作画。而最广为人知的
例子，或许是AlphaGo击败前世界围棋棋王李世石。
书中有个例子让我印象很深。辛顿的学生乔治．达尔参加由默克药厂发起一项竞赛。这竞
赛想探讨的是一种称作“定量构效关系”的药物研发技术。但达尔压根不晓得这是什么，
却依然用深度学习系统获得优胜。如辛顿说的：“乔治横扫整个领域，却还不知它叫什么
。”
这让我想到《反脆弱》。深度学习系统似乎就实践其中提到，不用了解“理论”，而是藉
由反复试误、调整找到更佳解的模式。人工智能用强大的自我学习能力，找到人类不能企
及的新可能。谷歌前执行长史密特说得巧：
在科学与生物学中，存在许多人类看不到的模式，而在辨识出来后，可以帮助
我们开发出更好的药物与解决方案。
看起来很美好，但这一切并不是没有隐忧……
【AI的问题？】
从众人看衰，到攻无不克，AI的未来看似一切光明。但随着人工智能逐渐强大，许多问题
也浮上台面。
〔隐私疑虑〕
辛顿的学生苏茨克曾说，神经网络的优势是你只要喂它资料，它就可以自我学习行为。
但问题是你要先有“资料”。
深度心智的创办人苏莱曼曾打算透过进行一项计画，透过让 AI 分析病患医疗纪录（血检
、生命迹象、过去医疗史等），预测“急性肾损伤”。急性肾损伤发生率高（每 5 个住
院病人就有 1 人），甚至可能会丧命，但只要及早发现就能治愈。
原本深度心智已经与皇家医院国民保健基金会信托金签约，获取 160 万名病患的资料。
但在《新科学人》杂志揭露此合作案后，马上就引发众人对隐私权遭侵犯的恐惧。最终这
项合作被英国主管当局判定违法。
不管你希望深度学习攻克哪个领域，都要有大量的资料供它自我训练。但当其牵扯到个人
隐私时，状况就变得相当棘手。
〔训练偏误〕
另一个问题是，深度学习的训练可能会产生“偏差”。
书中有个骇人的例子。谷歌所提供的智能辨识系统竟误将非裔美国人识别为“大猩猩”。
因为当初在建立辨识系统时，工程师多为白人男性，而他们挑选的资料也几乎都是白人，
这导致系统对有色人种判断力不足。
除了喂养的资料可能会有偏差，还有一个更难解的问题：训练标准。
随着社群发展，假新闻与仇恨言论得到前所未有的放大。脸书创办人祖克柏就声称能透过
人工智能，撤除这些“有问题”的资讯。问题是连人类都很难对什么是假新闻，什么是仇
恨言论达成共识，又要怎么训练机器去判读呢？
不若围棋或星海等游戏是封闭环境，有清楚规则与判定胜利的标准，现实世界没有人会打
分数。如电脑科学家乔艾．布兰维尼说的：
我们该以由谁的决定进步的意义？有该以何种标准决定进步？
我想，这问题恐怕永远都难有解答。
〔误用危机〕
更糟的是 AI 被用到坏的地方。如三巨头之一的班吉欧说的：
我们的工具可以使之为善，也可以使之为恶。
对于能将AI应用在哪些领域一直都存在争议。如 Deepfake 强大的换脸功能，就成了许多
女性的恶梦。《纽约时报》也曾报导中国政府利用人脸识别，追踪与控制维吾尔人。如作
者所言：
深度学习创造出一种力量，即便当初的开发者也无法完全控制。
无怪伊隆·马斯克会说人工智能可能毁了人类……而解方或许如深度心智创办人之一的苏
莱曼所说的：
我们在建立科技之前，必须审慎思考此一科技会如何遭到误用的问题，还有如何将其至于
监管之下的问题。
像当初深度心智在出售公司给谷歌的合约中，就订下两个条件：
１．禁止将深度心智的任何科技应用在军事目的。
２．成立独立伦理委员监督人工智能科技使用情况。
事实上他们当初决定将公司卖给谷歌而非脸书，原因就在于祖克柏并不认同他们对人工智
慧可能造成的道德疑虑，拒绝成立监督委员会。
另外，更多元的参与或许也会是解方。如美国计算机科学家蒂姆尼特．盖布鲁说的：
如果许多人被排除在创造人工智能的过程之外，此一科技仅会让少数人获利，却会对无数
人造成伤害。
【后记：围棋的那点小事】
身为业余围棋爱好者，我永远无法忘记当初追直播时，看到李世石投子认输的震撼。
书中提到的神奇37手，以围棋术语来说叫5路肩冲。传统认为4路是极限，但 AlphaGo 却
硬上5路。事实证明那是步好棋。
https://imgur.com/gLGPGdi
第二局第37手（截自DeepMind）
我更无法忘怀的，是看到李世石在第四局使出浑身解数打出 78 的鬼手，成功爆破中央，
帮人类短暂守住最后堡垒时的感动。
https://imgur.com/ZTi0TCP
第四局第78手（截自DeepMind）
现在围棋使用AI辅助已非常普遍。棋手都会用AI训练，甚至直播时也会放上AI胜率图供观
众参考。
https://imgur.com/wofhu7E
第五届吴清源杯世界女子围棋赛16强：黑嘉嘉七段 vs.于之莹七段，卢钰桦四段 vs.李赫
五段（截自海峰棋院）
对于现在不时有AI取代人类的说法，我觉得围棋的模式或可作为参考。如上头说的，现在
棋手都会用AI训练，用电脑的推荐选点作为行棋参考。
但这并不意谓著AI取代人类。事实上，有些选点根本超越人类理解，就算照着下也无法掌
握之后的变化。当今围棋第一人申真谞在专访中就提到，希望AI增加参考选点，让棋士能
有更多选择。
或许这就是人类与AI能共荣的模式吧？借由人工智能协助，对人类遭遇的各种问题提供更
多可能解方。而最终还是要靠人类自己选择，找到最适合我们的出路。
我想，不管面对隐私、误用等问题，最终还是要回归到“人”，思考这些应用是否能为人
们，甚至是整个世界的其他生物带来更好的环境。纳入更多元的角度才不会走偏锋，而能
利用 AI 开拓出更崭新的道路吧！