※ 引述《hdjj (hdjj)》之铭言：
: : → devidevi: AI选择投子之后，已经认为没有赢的希望.... 05/27 23:18
: : 推 HeterCompute: 说句实话，AlphaGo想要投子的时候古力是真的完全没 05/27 23:19
: : → devidevi: 对AI而言怎么下都是输，这样不算是BUG吧 05/27 23:19
: : → HeterCompute: 机会了，古力只是想要整理一下心情，毕竟从大优变成 05/27 23:19
: : → HeterCompute: 输棋，那时差距已经二十目了，不可能逆转的 05/27 23:20
: 不是有意抬摃，但这里是有盲点的。
: 这局棋就是个很明显的例子。在人机配对赛里，人就是最大的变量。暂且不论时力
: 故意自紧一气自填一眼的极端例子，以人加机器这样的组合，只要是人，就有可能
: 出错，或是下出缓著。
: 今天配对的是两位高手，所以这样的情况并不明显，换成两位业余棋手上去，可以
: 预期出现意外翻转的可能性更高。
: 这在现实应用上的意义更深远。以自动驾驶为例，ＡＩ在判定时也许总是可以做出
: 最佳决策，但总是有突然冲出的老人，油门当煞车踩的新手，硬闯红灯的死小孩。
: 在类似这种情况下，防御性的应对，柔软性的妥协忍耐，都是极为重要的。
: ＡＩ在逆境劣势里的反应，是一个很重要的课题。应该没有人愿意看到，输给李世
: 石的ＡＩ发神经的样子。因为这和ＡＩ“求胜”的原始指令是有所冲突的。
: 只是这讨论下去没完没了。这种事，还是留给黄博士这种专业人士伤脑筋吧。XD
虽然AG五局全胜，但是就内容来说，大家不得不觉得AG确实存在着弱点。这些弱点究竟
该怎么说呢？我想就是一个：“没尽全力。”如果以后AG是要用来服务人类，增进人类
福祉的话，AG这一个弱点会让人觉得信用不够。而且这个弱点若是没有被解决的话，很
可能不能被用来作自动化服务的人工智能。
一个超强的AG可以当工程师，但是却绝对不能当管家。今天我们要人工智能绝对不是解
决单一问题，而是可以综观全局的管家。如果AG搞不定百万分之一出现的意外，那绝对
是一个灾难。比如说我们拿AG管理双北市的红绿灯，我们希望AG管理的红绿灯让交通更
顺利，结果一个突如其来的灾难，让AG耍憨了起来，搞得全双北市的红绿灯通通在乱闪
。这是绝对不可以的。以上周团体赛的结果来说，古力那一边的Alphago 就是在耍憨，
而且Alphago 不是软件工程师key 出来的函数库，它是自我学习的整体。我猜目前
deepmind并没有能力修改AG让他能在逆境采取积极对策。因为如果去年AG被李世石挖到
发疯，今年重新再次自我学习应该也要把这一点改掉，但是结果并没有，只是用强大的
能力掩盖这个弱点而已。只要有个人类 (猪队友?)在旁边作乱，AG个体能力再强也要发
疯。但是，AG发疯是不被允许的。事实证明，AG如果傻掉，能力比常人还差。套用到更
大的系统面上去的话将会造成毁灭性灾难。