最近终于有机会看了第二次 EX MACHINA，发现版上没有太多的讨论。第一次看是看没有
字幕的，我的英文还没有好到可以全盘接收，第二次才抓到一些有趣的细节。我觉得这是
近年来对于 AI（artificial intelligence 人工智能）讨论最深刻的硬科幻，写一些心
得留下一些记录。
# 看这部电影的心态
在往下看之前，我觉得有必要提及看此剧的心理准备。此剧和其他常见的机器人剧有许多
不一样的地方。其中重要的一点是，此剧的一大部分，不只是在探讨机器人伦理学（我们
该用什么道德规范跟态度和机器人互动），而是把重心放在图灵测试（如何定义机器人有
像人类一样的心智）。在其他讨论机器人伦理学的剧情上，大概一开始就已经默认强 AI
的存在（Strong artificial intelligence: 达到人类智能等级的人工智能，甚至有意识
），这类剧情着重于我们该如何对待AI。但是这部电影主要是想问观众，AI表现出怎么样
的行为，你会认为是已经具有像人类一样的心智呢（如何被判定为强 AI）？所以对于期
待看到机器人伦理学探讨的观众，恐怕会失望此片并没有在这部分琢磨太多。
另外一点是这部电影的时空背景几乎是设定在现在我们所处的时代，而不是遥不可及的将
来。这个时空背景其实就在讨论我们正面临的一个问题：技术奇异点的迫近（当AI有办法
理解并开发新的AI，我们将无法控制和预期AI会如何自我发展）。今年来运算效能和机器
学习（machine learning）的大幅进步，让许多人认为，技术奇异点的发生可能是这个世
纪之内的事。就如剧中说的，强 AI 的出现，以现在AI 的发展只是迟早的事。而这部片
剧情的重心是放在我们如何定义一个强 AI 的诞生，一个在技术奇异点发生之前的事件。
所以带着多一点“什么是心智”这样的心情来观赏，我想是会多点趣味的。
# 有关图灵测试
这整部片核心议题当然是图灵测试，剧情也是以图灵测试为主线展开。什么是图灵测试呢
，就是图灵在 1950 提出“定义”什么是智能（intelligence）的方法。所以也可以用于
“定义”AI 是否具有人类一般的心智。随着时代的进步，我们对于测试的内容和标准也
变的越来越严格，从剧情也可以看出来，主角跟光头老板不断的在讨论怎么样才是合理的
测试方式。接下来我就以图灵测试在剧中的版本来讨论。
## 图灵测试的版本
图灵测试是为了定义智能而设计的。图灵测试的基础是基于一个共识：人类是大家公认的
有智能的生物。所以人类为基准，如果有什么东西行为表现很像人类，像到无法区分，那
这个东西也可以被定义为有智能。
图灵测试的原始版本：一开始提出的图灵测试，是由一个人，一个 AI 和旁观者组成。人
和 AI 通过文字界面对谈，而旁观者必须根据对话来判断哪个是人类，哪个是 AI 。如果
判断不出来，就表示 AI 跟人的反应没有实质上的差别。而如果我们认为人是有智能的，
则反应和人类一样的 AI，以这样的操作型定义来说，我们也可以定义通过测试的AI是有
智能的。
但是一般人比较知道的是以下这个版本，剧中一开始主角跟光头老板提到的也是这个版本
。
版本 1：人跟一个可能是 AI 的行为者 (agent) 互动，如果人无法判断对方是人还是AI
，则 AI 通过测试。这个版本可能是最直觉的，但是其实不是以原始版本进行的话，会产
生一些问题，这部分就在话题外，不细说了。
而光头老板没有采用以上两种形式的测试，却是采用以下的版本。
版本 2：人跟 AI 互动，但是直接告诉人，这个就是 AI 。这样子等于是把受试者的判断
偏见（bias）推到极限，也等于是采取最严格的通过标准：当你很明确的知道你跟 AI 互
动，AI 要如何行为才会带给你它拥有人类心智的印象呢？同时这个情况参与者已经知道
是 AI 了，那回答的方式就不能如上述的版本回答“是 AI ”或“不是 AI ”。也就是必
须采取别的回答方式，因此剧情有了以下的版本。
版本 2.1： 这时候，从主角跟光头老板的对话中可以得知，光头老板要对主角说的测试
方式是基于人机互动所产生的感情，如果在互动过程中，主角对 AI 产生感情，并且也感
觉到 AI 对自己产生感情，那 AI 就算通过测试。也就是说以互动的感情来定义心智。而
主角则在剧情中段部分一直以为这是他所要做的图灵测试。
版本 2.2：但是剧情一转，其实光头老板跟主角提议的测试是假的，而光头老板真正做的
测试是，AI 要使用任何手段逃出这个设施。这个设施有严密的软硬件系统来限制出入，
光头老板唯一提供的缺口是人，也就是主角，AI必须操弄和使用主角来逃脱。换句话来说
，这个测试其实是以社交工程 (social engineering) 问题作为通过与否的标准（社交工
程：把系统里面的人当做系统运作的一部分，以人性的缺陷当做攻击系统的手段之一）。
这是一个我觉得很有新意的判断标准。社交工程必须用到对人类行为的理解，跟模拟他人
的心智状态的能力（Theory of Mind，这个部分等等会提）。这个阶段，光头老板认为可
以做到这样的社交工程就足以定义心智了。
版本 3：我认为这是一个给观众思考的版本：
其实结局很令人玩味，光头老板给了AVA 几乎所有的自由度：她可以使用任何手段作为逃
脱的办法，只要她做的到。唯一没有自由的、写死的部分就是动机，就是逃出去，这是
AVA 唯一需要做到的事。但是结局在 AVA 逃出设施，杀了所有知道她是 AI 的人之后，
其实目标已经达成了。合理的认为一个达到任务目标的 AI ，这个时候应该是要停机了。
但是 AVA 不但没有停机，还会有类似人类好奇心的行为，跑到她所说的十字路口，依著
自己内在产生的新动机继续运作，以人类的观点就是找到了新的人生目标。其实这件事非
常像人类的行为，人类是地球生物演化的过程的一份子，运作的动机理当是被基因写死了
：以自私的基因观点，生物都是为了繁殖（reproduction） 而存在，但我们还发展出对
于繁殖没有直接相关的一些动机，如对于美、平等等价值的追求。而 AVA 有这些内在产
生的而外动机，脱离被程式写死的目的，对我来说甚至比一些人类更像人类。我想这就是
在最后反问观众，如果一个 AI 的产生了自发性的目标，对观众来说，算不算是一个接近
人类的心灵呢？
另外，剧中有提到的“黑白玛丽房间思想实验”也跟结尾 AVA 逃出房子后的反应有所呼
应。黑白玛丽房间思想实验是想要探讨，意识经验本身（qualia）是否是有别于物理知识
之外的知识？当一个神经科学家玛丽，从一生被关的黑白房间里面走出来之后，是否看到
的颜色对她来说，是有别于教科书里面关于视觉知识的新经验呢？从 AVA 在结局的反应
，对于新世界，看到花草那种新奇开心的表现，似乎在回答说，是的，她确实有了她之前
没有过的经验。而这也表现出她确实是渴望新的意识经验，而不是单单只是一个模拟人类
智能的机器，只被逃走这个写死的动机而驱动。
# 有关模拟他人心理的能力
人类作为一个社会性动物，大部分的人多多少少都有模拟他人心理的能力，如推测别人在
想什么，遇到什么事情会怎么反应。这个能力在心理学的术语称作 Theory of Mind。而
这在我们生活中视为理所当然的能力，其实本质上是很复杂的。因为这等于动用大脑一部
分的认知资源来模拟别人的大脑状态，从电脑软件的角度来说就像是虚拟机器（Virtual
Machine），利用虚拟机器，我们可以在一个作业系统里面模拟另一台电脑，跑另一个作
业系统。大脑随时可以动用认知资源，利用我们观察他人所得到的资讯，结合本身对于心
智的了解，去模拟别人的心理状态，其实是很惊异的能力，只是在生活中对我们太平常，
而忽略了这个能力的复杂程度。这个能力定义跟同情心不太一样，例如一些反社会人格的
罪犯，其实是有很好的心理模拟的能力，但是不具有同情被害者的情绪跟能力。
这个能力在剧中的图灵测试扮演很重要的成分，就如上所述，光头老板的测试目标是要
AVA 可以利用任何手段逃脱。而要逃脱就必须利用主角，AVA 必须要可以模拟主角的心
理，预测主角的行为来设置逃脱计划。对我来说最能传达这一幕的是最后她叫主角待在房
间里面等待，主角就乖乖等，完全的展现出她已经可以全盘模拟主角的心理状态了。对于
AVA 来说，主角已经是一个被全盘了解的系统，给定一个待机的讯号，主角就完全遵循
预期的行为。
从另一个观点来看，剧情也表现出人跟机器的立场也对调了。人和机器的关系，本应是是
人掌握机器的运作，给定机器特定的输入，让机器状态做出预期的改变。而现在的立场则
是反过来了，在机器有了模拟人类心理的能力之后，人类就如同被机器一样操作了。这也
呼应了剧中所讨论的，机器人在技术奇异点之后，可能对于人类的这个物种的立场上的对
调，我们对机器而言只是个过时老旧的生物。
而在 AVA 之前的版本显然没有这个能力，有一幕是一个旧版本的机体，只是重复的要求
被放出去，或是不断敲门希望可以逃出。这等于是无法把人类当做是系统的一部分，考虑
在逃脱的计划里面，进而陷在一个 local maximum ，无法使用更复杂的手段去评估逃出
去的可能性。而有了模拟人类心智的能力 之后，就可以把人放进整个系统中当做考量。
回到原本的图灵测试问题，如果一个 AI 有了Theory of Mind，我们是否就认为它是有智
能，甚至是有意识的呢？
其实剧中AVA 处处展现出心智模拟的能力，她甚至可以同时模拟 2 个人类的心理状态。
在第一次跟主角面对面的停电时，AVA 就同时考量到主角跟光头老板的两个人的心理状态
，而一面在停电的时候骗主角光头的用意，在恢复供电的时候假装在讨论书单来骗光头老
板，这都是没有 Theory of Mind就做不到的事情
# 关于艾西莫夫机器人三定律
有些人提到对这部片有负评，原因在于好像只是在讲一个杀人机器人的故事，光头老板连
艾西莫夫的机器人三定律都没有写进去。关于这个部分我有两点想说：
第一点是从人类和 AI 的从属关系来谈。
机器人三定律的内容，基本上隐含着把 AI 当做是仆人般，和人类不对等的角色来看待：
AI 的行为必须优先考量人类来行动。但是我们回过头来想想图灵测试的意义，如果我们
希望建构一个强 AI 来通过图灵测试，那最基础的部分就是表现出和人类相同的“行为”
，而且“行为”只是最基本的通过条件，更不用说有些人还认为强 AI 要成立，需要 AI
有类似人类的内在认知或是意识了。如果我们在 AI 的行为，这个最基本的条件上，就加
上了三定律的限制，那也就没有什么好测试的了，这个 AI 打从一开始发展就已经有一部
分先被写死了，处处要不自然的考量到人类行为来做决策，这样要如何去模拟人类的行为
呢，这本质上就不是一般人的思考方式了。极端一点来说，假设有个人一生都被一个随时
会虐待你的人关在一个小房间，而不久之后这个虐待狂还要杀了他，他不会以死命一搏为
前提逃出去吗？而如果杀人这样的行为，是一个人有可能在这种情况下做的决定，那AVA
如果这时候不以杀人来捍卫自身的自由，不就反而是违反“人性”吗？这样就抵触做图灵
测试的意义了。
第二点是以 AI 的原理来考虑艾西莫夫三原则是一种条件判断的设定。在AI的发展历史
中，以条件判断为基础，希望建构强 AI 的想法，已经在1980年代被视为不可能的任务了
，这种 GOFAI （Good Old-Fashioned Artificial Intelligence） 的做法，在很多AI领
域遭遇到了瓶颈。而剧中 AVA 所使用运算机制应该不是 GOFAI 这种方式建构，光头老板
有提到AVA的大脑使用 wetware，而且为了表情的功能还骇了全世界的手机收集资料。以
现在的技术，推测可能是用类神经网络为基础的机器学习架构。基本上使用这种架构，就
表示光头老板是希望这个人工心智可以以大量人类行为资料为基础来训练 AI 做到人类等
级行为，这种架构的AI基本上就不是在行为模式上加入条件判断完成的。当然现在的技术
离真的要做出像AVA这样等级的 AI 还很遥远，而且我们还不知道是不是用像是深度学习
(deep learning) 这种先进的机器学习技术，AI会不会如人类大脑一样，虽然是以神经
网络运作，但是还可以突现出类似条件判断的机制。但是在设计的理念跟架构上，本来就
不是以条件判断为基础，也不用考虑把三原则写进去了。
# 其他有趣的地方
其实剧中对于一些经典的 AI 问题都有点到一些，譬如主角问光头老板 AVA 的运算是决
定性（deterministic）还是 随机性的（stochastic）过程。决定性是指系统前一刻的状
态必定导向固定的下一刻的状态，而随机性是指系统引入了某种随机过程，导致下一刻的
行为不是固定的，使用随机过程的理由有很多，从解决一些最佳化问题到学习到创造力都
有关系。虽然光头老板没有回答，但是从京子有一幕打翻酒杯就可以推测出应该是使用随
机性架构的，在后期我们知道京子其实是比较早的型号，如果不是随机性架构的话，应该
在训练完成之后就不会犯这种错误。
还有提到如何测试 AI 的行为到底是“模拟的”（simulation）还是“真的”（actual）
。剧中没有提到另一个有名的思想实验叫中文房间，也是在讨论同样的问题。模拟的意思
是指，AI可以做出类似像人类的行为，但是其实它并不是真的如同我们有意识经验一般，
理解才做出的行动，而只是“学学样子”而已。剧中提到了例子是下棋，西洋棋程式在AI
发展早期就很厉害了，虽然AI好像表现的像西洋棋大师一样，但是我们知道 AI 只是背下
来所有历史上的棋谱，以超快的速度跑过许多可能的棋步，计算最大胜率来行动，我们大
概不会觉得，这样是跟真正的西洋棋大师一样“理解”下棋的意义，并且有同样的心智历
程。下棋可能我们还可以想象，但是会不会像 AVA 展现出很多像人类的行为，如开玩笑
，也是只是靠某种算法、机制来运作，而不是真的觉得有趣、幽默呢？哲学上有个名词
描述这种情况，叫做哲学僵尸（Philosophical zombie)，义指 AI 只有行为的相似性但
是并没有对应人类的感觉跟心智。那 AVA 是一个哲学僵尸吗，这部分就暂时只能让观众
自由心证了。我想在我们了解意识感觉跟物理世界的关联之前，这都还会是个谜。
总结来说，这是一部剧情相对单纯的电影，但是有很多细节是可以细细品尝的，议题探讨
的范围也很广，但是相对来说也很硬，可能需要一些背景知识会更好看。