※ 引述《ljsnonocat2 (平凡是幸福)》之铭言：
: Elon Musk 与 Stephen Hawking先前都有表达对AI人工智能的担忧
: 现在连Bill Gates也都有发表意见...
: http://www.engadget.com/2015/01/28/bill-gates-AI/
: 不过假如人工智能失控 要怎么对付???
: 把主机的电源线网络线拔掉???? EMP????
: 还是等未来反抗军派T100终结者回来??
: 有没有要如何对付AI人工智能失控的八卦???
我连到reddit, Gates的讨论串底下,
他们基本上不是在讨论失控的状况.
而是符合程式指令下的状况.
那讨论串中有个例子我觉得比较有趣,
AI跟人类的差异,
是AI可能会采取很奇怪的方法来执行一个良善的目标.
因为人类思维里面有很多内建的假设跟限制,
假设目标是要让一群人同时发笑, 一般人可能会想到讲笑话.
AI搞不好会把人抓起来,直接操纵人的面部肌肉甚至植入电极到大脑.
因为比较难把人类的很多思维假设做进程式,
可能就会跑出符合程序但是让人觉得很意外的结果.
其实在很多古老寓言里就有出现,
你可以许愿, 但是愿望实现出来的结果却不是你想要的.