※ 引述《Maybetrue (电子黑手)》之铭言：
: ※ 引述《hdjj (hdjj)》之铭言：
: 是一个灾难。比如说我们拿AG管理双北市的红绿灯，我们希望AG管理的红绿灯让交通更
: 顺利，结果一个突如其来的灾难，让AG耍憨了起来，搞得全双北市的红绿灯通通在乱闪
: 。这是绝对不可以的。以上周团体赛的结果来说，古力那一边的Alphago 就是在耍憨，
: 而且Alphago 不是软件工程师key 出来的函数库，它是自我学习的整体。我猜目前
: deepmind并没有能力修改AG让他能在逆境采取积极对策。因为如果去年AG被李世石挖到
: 发疯，今年重新再次自我学习应该也要把这一点改掉，但是结果并没有，只是用强大的
: 能力掩盖这个弱点而已。只要有个人类 (猪队友?)在旁边作乱，AG个体能力再强也要发
: 疯。但是，AG发疯是不被允许的。事实证明，AG如果傻掉，能力比常人还差。套用到更
: 大的系统面上去的话将会造成毁灭性灾难。
简单说一下原PO所说的问题点
目前deepmind的AG，在正常运作下没有问题
但发生意外，或突发状况时，AI并不会让损失减到最小，而是开始错乱...
没人可以保证完全不出任何意外，
但如果AI只有正常运作下没有问题
当有外力介入，产生意外时，AI并不能让损失控制到最小，并且产生错乱...
这是AG要解决的下一步问题..