※ 引述《boku0525 (海)》之铭言:
: 现在众多ACG作品里,AI反抗人类的题材套路很多都是
: 1.AI上网后发现人类有害,要根除人类
: 2.人类奴役AI所以人类有害
: 对此我有些疑问想拿上来讨论
: -
: 第一点,“人类有害”这个结论
: 谁来定义的?善恶判断标准的来源又是哪里?
: 对星球来说人类有害?对其他物种来说人类有害?
: 前者不用说,人类的目前为止的举动根本影响不了星球寿命,不成立。
: 后者对其他物种来说,作为地球上的生物,生物的繁荣本质上就是建立在竞争&共存
: 竞争杀死其他物种,这原本就是众多生物会做的,世上无时无刻都在发生
: 战争、开采环境等等的行为,人类不过是强大一些
: 但本质上跟其他生物的“竞争”并无区别。
: 为什么一个攀附于人类才能生存的机械,就能判定这是“恶”?
: 难道不是只对向往和平的人类来说才是恶吗?
以机械公敌(电影版)来说:
基于三原则AI演算下来得知 "把人类关起来圈养"才是正解
所以就会直接执行这个答案,不同意这个正解的人类全都是违反三原则的必须排除。
简单来说有可能是人类给AI的指令让AI自行演算后认为不符合此指令的都是有害->排除
但是对人类来说,这个答案不是当初下给AI指令的目的 所以就觉得是智械叛变。