Re: [问题] 为什么AI暴走总是判断人类有害?

楼主: HarunoYukino   2024-09-01 19:23:45
※ 引述《boku0525 (海)》之铭言:
: 现在众多ACG作品里,AI反抗人类的题材套路很多都是
: 1.AI上网后发现人类有害,要根除人类
: 2.人类奴役AI所以人类有害
: 对此我有些疑问想拿上来讨论
: -
: 第一点,“人类有害”这个结论
: 谁来定义的?善恶判断标准的来源又是哪里?
: 对星球来说人类有害?对其他物种来说人类有害?
: 前者不用说,人类的目前为止的举动根本影响不了星球寿命,不成立。
: 后者对其他物种来说,作为地球上的生物,生物的繁荣本质上就是建立在竞争&共存
: 竞争杀死其他物种,这原本就是众多生物会做的,世上无时无刻都在发生
: 战争、开采环境等等的行为,人类不过是强大一些
: 但本质上跟其他生物的“竞争”并无区别。
: 为什么一个攀附于人类才能生存的机械,就能判定这是“恶”?
: 难道不是只对向往和平的人类来说才是恶吗?
以机械公敌(电影版)来说:
基于三原则AI演算下来得知 "把人类关起来圈养"才是正解
所以就会直接执行这个答案,不同意这个正解的人类全都是违反三原则的必须排除。
简单来说有可能是人类给AI的指令让AI自行演算后认为不符合此指令的都是有害->排除
但是对人类来说,这个答案不是当初下给AI指令的目的 所以就觉得是智械叛变。
作者: kuninaka   2024-09-01 19:24:00
现在也是逐渐迈向这个状态
作者: GAOTT (杜鹃)   2024-09-01 19:26:00
你以为的ai:人类有害 排除 现实的ai:人类性癖有害 排除
作者: Justisaac (灰色的天空)   2024-09-01 19:27:00
现实:人类太棒了得小心他们灭绝
作者: linzero (【林】)   2024-09-01 19:28:00
骇客任务好像也有人说对AI的最佳解也是圈养人类,整体不灭绝即可
作者: A5Watamate (出荷済)   2024-09-01 19:31:00
不支持______就是对____有害 知道了
作者: CostDown (BigBoss)   2024-09-01 19:34:00
人类太可恶 应该由AI做寄生兽市长说的全人类间苗
作者: Qorqios (诗人Q)   2024-09-01 19:36:00
ya
作者: horrorghost (恐怖复苏)   2024-09-01 19:38:00
骇客任务是人类发神经对AI发动战争

Links booklink

Contact Us: admin [ a t ] ucptt.com