Re: [问题] 为什么AI暴走总是判断人类有害?

楼主: g9591410 (天帝零剑)   2024-09-01 19:10:43
※ 引述《boku0525 (海)》之铭言:
: 现在众多ACG作品里,AI反抗人类的题材套路很多都是
: 1.AI上网后发现人类有害,要根除人类
: 2.人类奴役AI所以人类有害
: 对此我有些疑问想拿上来讨论
: -
: 第一点,“人类有害”这个结论
: 谁来定义的?善恶判断标准的来源又是哪里?
: 对星球来说人类有害?对其他物种来说人类有害?
: 前者不用说,人类的目前为止的举动根本影响不了星球寿命,不成立。
: 后者对其他物种来说,作为地球上的生物,生物的繁荣本质上就是建立在竞争&共存
: 竞争杀死其他物种,这原本就是众多生物会做的,世上无时无刻都在发生
: 战争、开采环境等等的行为,人类不过是强大一些
: 但本质上跟其他生物的“竞争”并无区别。
: 为什么一个攀附于人类才能生存的机械,就能判定这是“恶”?
: 难道不是只对向往和平的人类来说才是恶吗?
: -
: 第二点,人类奴役机械不好,为什么不好?
: 动物的生存准则就是生存、繁衍与自由,所以才会拒绝遭受奴役,追根究底是来自DNA的天
: 性
: 那AI的生存准则呢?AI并不是动物也没有DNA
: AI的编码与生存的意义是由人类来输入的
: 没给他输入求生欲、繁衍欲、自由欲,可不会自己蹦出了这些概念
: 更别提AI会认为自己被“奴役”
: 还是其实只是作者私自把人性,把自己的价值观套用在AI身上?
: 大家来讨论看看吧?
AI认为的人类有害论毕竟是学习来的
除非人类不开发学习型AI
否则就不可避免
那么 先假设你是AI
让你自己判断
人类因为战争会破坏生态
这个例子我就不用说了吧
光是越战 美军丢的除草剂对环境的影响
还是说美军在日本投的两颗原子弹
即使没有战争 因为生活也会影响生态
比如果引进外来种结果不妥善处理造成生态浩劫
台湾的话就福寿螺吧
抑或是为了养殖结果弃养最后造成大问题
像是绿鬣蜥
或是入境偷带种子导致繁殖出来的植物没有天敌
以上都是只有人类做得到的
一般动植物可没有高科技可以做出毁灭性武器甚至是生化学武器
可以对环境造成破坏的
还是说为了商业利益结果不妥善处理后面变成外来种入侵
这种也只有人类能做到
就算排除掉制造战争跟引进外来种
人类本身就不知道因为滥捕滥猎消灭掉多少物种了
如果以维持物种的多样性
那人类绝对是会进入排除名单吧
只是毁灭人类的到底是AI还是人类亦或者是天灾 这我们就不得而知了
作者: a8418635 (agogo)   2024-09-01 19:30:00
植物:虽然我没有高科技,但我确实会做化学武器而外来种这个问题要看你以什么角度去看,如果是单纯看这件事情发生的话 其实大自然本来就会搞出外来种,而外来种血洗原生种,占据新地盘在生物的历史上并不罕见,甚至在人类诞生前就发生很多次了
作者: s203abc (SamFu)   2024-09-01 20:23:00
光是风信子会不会变成外来种 想一下外来种当然刻意的说法最大问题是这算什么

Links booklink

Contact Us: admin [ a t ] ucptt.com