Re: [问题] 为什么AI暴走总是判断人类有害?

楼主: shato (龍夏)   2024-09-01 19:33:10
※ 引述《boku0525 (海)》之铭言:
: 现在众多ACG作品里,AI反抗人类的题材套路很多都是
: 1.AI上网后发现人类有害,要根除人类
: 2.人类奴役AI所以人类有害
你这个前提讲得太简单了
推荐你可以先参考The Animatrix的设定
巴哈有篇解析我觉得很棒给你参考
https://forum.gamer.com.tw/C.php?bsn=60037&snA=72279
: 对此我有些疑问想拿上来讨论
: -
: 第一点,“人类有害”这个结论
: 谁来定义的?善恶判断标准的来源又是哪里?
善恶判断的部分,我推台大 Good and Evil
https://reurl.cc/6d7lEy 给你参考
: 对星球来说人类有害?对其他物种来说人类有害?
: 前者不用说,人类的目前为止的举动根本影响不了星球寿命,不成立。
: 后者对其他物种来说,作为地球上的生物,生物的繁荣本质上就是建立在竞争&共存
: 竞争杀死其他物种,这原本就是众多生物会做的,世上无时无刻都在发生
并没有,动物会有猎食及守护地盘的行为,绝大部分是为了存活。
你会需要跟你家旁边的野狗竞争然后互咬吗?不需要,对吧。
但是这社会上有很多人是为了好玩而虐待动物的...
人的善意与恶意都比其他动物复杂非常多啊
你也可以参考一下虐待动物的报导
https://wuo-wuo.com/abuse/
: 战争、开采环境等等的行为,人类不过是强大一些
强大一点???你应该不清楚人破坏自然的速度有多快又有效率吗?
如人类在河川上游设工厂,排出的工业废水在短时间内就可以灭绝河流内的所有生物。
你想看看有那个生物原本就会这么做??或是能够对生态有这种程度的破坏力??
: 但本质上跟其他生物的“竞争”并无区别。
: 为什么一个攀附于人类才能生存的机械,就能判定这是“恶”?
: 难道不是只对向往和平的人类来说才是恶吗?
回头看一下你前面的问题,
然后试着找到你如何定义善恶,以及判断标准的来源又是哪里?
搞不好那就是问题的答案了。
: -
: 第二点,人类奴役机械不好,为什么不好?
这个论点是从哪部作品的剧情出来的啊??
还是你的判断??
“人类奴役机械”与“机械服务人类”你觉得差在哪里?
: 动物的生存准则就是生存、繁衍与自由,所以才会拒绝遭受奴役,追根究底是来自DNA的天
: 性
: 那AI的生存准则呢?AI并不是动物也没有DNA
: AI的编码与生存的意义是由人类来输入的
: 没给他输入求生欲、繁衍欲、自由欲,可不会自己蹦出了这些概念
: 更别提AI会认为自己被“奴役”
这个问题推荐你看 “假如人工智能(AI)有灵魂:这意味着什么”
https://www.bbc.com/ukchina/trad/vert-fut-44641617
: 还是其实只是作者私自把人性,把自己的价值观套用在AI身上?
以ACG作品来说世界观就是依照作者的设定。
当然只会依照作者的想像发展啊。
: 大家来讨论看看吧?
再一起讨论看看吧?
:
作者: a8418635 (agogo)   2024-09-01 19:38:00
海豚:对啊,为了生存(把鱼当飞机杯用
作者: coollee   2024-09-01 22:57:00
简单说就是 维持现在人类社会的运作 付出的代价太高了那要清除/减低这些代价的AI 要怎么执行呢

Links booklink

Contact Us: admin [ a t ] ucptt.com