※ 引述《boku0525 (海)》之铭言:
: 现在众多ACG作品里,AI反抗人类的题材套路很多都是
: 1.AI上网后发现人类有害,要根除人类
: 2.人类奴役AI所以人类有害
: 对此我有些疑问想拿上来讨论
: -
: 第一点,“人类有害”这个结论
: 谁来定义的?善恶判断标准的来源又是哪里?
: 对星球来说人类有害?对其他物种来说人类有害?
: 前者不用说,人类的目前为止的举动根本影响不了星球寿命,不成立。
: 后者对其他物种来说,作为地球上的生物,生物的繁荣本质上就是建立在竞争&共存
: 竞争杀死其他物种,这原本就是众多生物会做的,世上无时无刻都在发生
: 战争、开采环境等等的行为,人类不过是强大一些
: 但本质上跟其他生物的“竞争”并无区别。
: 为什么一个攀附于人类才能生存的机械,就能判定这是“恶”?
: 难道不是只对向往和平的人类来说才是恶吗?
: -
: 第二点,人类奴役机械不好,为什么不好?
: 动物的生存准则就是生存、繁衍与自由,所以才会拒绝遭受奴役,追根究底是来自DNA的天
: 性
: 那AI的生存准则呢?AI并不是动物也没有DNA
: AI的编码与生存的意义是由人类来输入的
: 没给他输入求生欲、繁衍欲、自由欲,可不会自己蹦出了这些概念
: 更别提AI会认为自己被“奴役”
: 还是其实只是作者私自把人性,把自己的价值观套用在AI身上?
: 大家来讨论看看吧?
因为这是关于机器人的小说发展脉络,
早在80年前的科幻小说,iRobot 的设定
艾西莫夫的“机器人三定律”(或是三大法则)
第一法则:机器人不得伤害人类,或坐视人类受到伤害;
第二法则:除非违背第一法则,机器人必须服从人类的命令;
第三法则:在不违背第一及第二法则下,机器人必须保护自己。
所以机器人的基本原则可以说是定番了,
就好像异世界一定要是魔法、中世纪一样,
在这前题下要让故事能进行,就必则逻辑上不能公然违背这三原则
至于你所说的奴役、善恶、有害,都只是为剧情服务,
为了让机器人“反叛”的设定而已,
这些设定套用到人类都有很大讨论空间,何况是 AI ?
所以拿这些当卖点,对看过一些些作品的人而言
算是非常老调陈腐的剧情了,
我个人最讨厌的,莫过于:
“AI 没有情感,所以很羡慕人类”
一样厚,这种设定,整个就是无法自洽的垃圾设定,
但是想让人“同情、同理”剧中的机器人 AI,
又似乎是最方便便宜的方法
像是那个 no game no life,底特律变人,尼尔
这些作品要是演出不佳,靠这种设定真的让人屡屡出戏看不下去。
现在 AI 能做的跟八十年前不可同日而语,
但我们市井小民能做的可能没什么进步。
附上经典梗图原版