特斯拉CEO：人工智能将召唤出恶魔
电影机械公敌（I, Robot）当中，中央控制系统VIKI以人类正在危害己身安全的判断，控
制了NS-5机器人来执行“人类保护计画”的情节，或许你还记忆犹新。影片中企图控制世
界的VIKI正是一款人工智能系统。为了不在现实中重演这样的情节，特斯拉的CEO Elon M
usk再一次发出警告表示“人工智能将会召唤出恶魔！”
对于人工智能，近期科技界的相关研究方兴未艾。然而Elon Musk继先前曾表达“人工智
慧比核能更危险”宣言后，再度在麻省理工学院航空系百年论坛中表示，他对于计算机产
业未来的发展，也就是人工智能被恶意使用的情况感到担忧。
Elon Musk表示，“透过人工智能，我们将会召唤出恶魔。大家都知道这样的故事，有人
拿着五芒星和圣水，肯定自己能够控制恶魔，但事实上却是不能”。
Elon Musk的发言听起来十分骇人，但其实他指的是人工智能发展领域，正无限制的被研
究、应用。他表示为了预防人类不会为了研究或其他理由，做出一些危险的事情，在人工
智慧领域的研究会需要监管机制，可能是国际间共同提出，或是由单一国家来提出。
他已不只一次表达过对于人工智能前景的担忧。他之前曾开玩笑的表示，为了消除垃圾邮
件而开发的机器人，可能会自行做出决定，要毁灭人类。这仿佛又重复了电影机械公敌中
，男主角与一位小女孩同时遭遇重大车祸时，机器人因为生存机率的判断，而放弃拯救小
女孩一样。如同电影男主角所言，对于人类而言符合情理的判断，机器人并不一定能懂。
相对的，采用人工智能系统来进行判断的机器人，也有可能像电影中的VIKI一样，夺取控
制权企图凌驾于人类之上，而可能为人类带来超乎预期的灾难。
http://ppt.cc/bD5P