现在众多ACG作品里，AI反抗人类的题材套路很多都是
1.AI上网后发现人类有害，要根除人类
2.人类奴役AI所以人类有害
对此我有些疑问想拿上来讨论
-
第一点，“人类有害”这个结论
谁来定义的？善恶判断标准的来源又是哪里？
对星球来说人类有害？对其他物种来说人类有害？
前者不用说，人类的目前为止的举动根本影响不了星球寿命，不成立。
后者对其他物种来说，作为地球上的生物，生物的繁荣本质上就是建立在竞争&共存
竞争杀死其他物种，这原本就是众多生物会做的，世上无时无刻都在发生
战争、开采环境等等的行为，人类不过是强大一些
但本质上跟其他生物的“竞争”并无区别。
为什么一个攀附于人类才能生存的机械，就能判定这是“恶”？
难道不是只对向往和平的人类来说才是恶吗？
-
第二点，人类奴役机械不好，为什么不好？
动物的生存准则就是生存、繁衍与自由，所以才会拒绝遭受奴役，追根究底是来自DNA的天
性
那AI的生存准则呢？AI并不是动物也没有DNA
AI的编码与生存的意义是由人类来输入的
没给他输入求生欲、繁衍欲、自由欲，可不会自己蹦出了这些概念
更别提AI会认为自己被“奴役”
还是其实只是作者私自把人性，把自己的价值观套用在AI身上？
大家来讨论看看吧？

因为人类也这么觉得

因为人自己这样觉得创作的逻辑 永远都是人的逻辑

因为创造者这么觉得

人类想像被新物种用人类方式对待

AI想的事情基本上都是人在想的 所以 嗯

不够效率

反过来想，人类的存活对地球有什么好处？

人觉得有害就有害啊

阿不就人类真的一直在自杀 AI宏观来看就觉得人类是北七

因为做出AI的人类这样觉得啊

我也这么认为

不然AI暴走了要干嘛? 不签联络簿吗?

也有那种为了防止人类搞出一堆蠢事自我毁灭，认为最好的方法就是圈养起来的故事啦

因为人类真的有害

因为那不是暴走，是真的有害。

其实AI就是换皮黑奴啦

本意仍然是被创造出来时的“守护人类”没错，但为了达成圈养而跟自由派人类开战什么的

因为很多人也这样觉得啊

人类接触到的高智能生物就只有人类 我们也只能想像跟

你先拔除你是人类的先天立场 再回头看看人力都干了什么鸟事

真的有比人类有害的东西 不需要等到AI想就先灭了

逻辑冲突吧 保护人类但是人类会互杀

人一样的思考模式然后摆到再上一位的样子

可是这种杀人AI本来就虚构的，很多作品会设定AI自己领悟出这些东西，或者因为人类想要机器更有效率干赵活所以输入这些被判定标准

行为无法预测 = 有害 对工具的处置不都这样?

你竟然不觉得人类有害？

因为如果AI判断人类有益 大家相安无事 根本没剧情能写

因为人类很容易干蠢事 那些蠢事是真的对所有事物都有害(包括人类这个物种的延续性)

28楼你想更有效率干赵活…？

人类制造一堆非自然污染物

其实所谓的对地球好 实际上就只是对人类好而已

智障太多 AI都看不下去

会说突然觉醒那表示你还不懂现在AI的运作方式

生物多样性跟延续的必要性也是人类为了这颗地球能维持自己生存所以判断需要维护的事情

假设做出普世价值的AI，要消灭战争、贫富不均、物种延续、环保等等…那基本AI最后都是要强制管理人类，不过人类自己想的做法也是这样啊

因为人类也这么想

你就算用人类本位思考...对人类最大的灾厄也是人类啊

我是人类都觉得人类有害耶

正因为以人为本 所以觉得人是最危险的存在很正常

人类定义的阿

AI不是动物也没有DNA，但是你喂给他学习的资料都是来自人类

stellaris有一种文明起源是失控机仆 就是暴走把创造者关起来养的机人

追求环保说到底也只是让人类后代能有个好环境 而不是什

人类自己觉得自己有害

因为作品写给人看的

我曾经也不能理解但看完板上 [闲聊] 听说男人都无法拒绝这种东西 这串突然能理解了w

人类如果都死光，那人类也不用担心自己族群被其他族群伤害了

人类想被AI暴力对待很久了

失控机仆才是最有可能发生的AI危机类型吧 就是人类未来把一切工作 包含探索及发明都交给AI 在AI搭建的乌托邦中被饲养起来

看看版上把AI志豪玩成怎样了

地球灭人类亡 人类亡地球存 很正常啊

对于地球来讲生命本身就不重要,除非地球要被砸碎了

不然判断猴子有害的剧情有人看吗

以前地球也曾发生改变生态系的天灾，但要改变生态系来说，人类现在就是地球上最大对天灾的

没有道德问题啊

你看看这几天的志豪文，除了判断有害还有其他可能吗

因为人类真的有害

Ai暴走你还要看他原本的目的是什么 恶魔钢弹那种复苏大自然的就会得出排除人类的结论

其实你说的没错 人类有没有害根本不重要 反过来讲应该是机械AI强大到觉得人类就是一群应该被淘汰的废物

反正我是不觉得人类做得出跳脱人类思维的AI

人类太可恶

你先别扯什么有害不有害的定义 先想想AI从宏观来看

所以这个所谓的"不是要做仿人的AI"感觉很飘渺

AI 有没有道德 有道德只会变成机器战警

目前的科技发展还不到强AI出现的可能性只是“假设如果出现”后可能直线把人类文明毁灭而已至于弱AI 那就是弱到笑死 看看志豪

没道德就人类

因为这样创作比较有人看

用理性的角度看人类想像中的造物主神也会觉得他们一个比一个还击败你怎么会觉得AI会对人类的存在有好感

因为人类是一种 明明都教他们酒驾是错误的 还是有一堆

你又不是地球 你怎么知道对地球来说不重要

没道德的人都不要了

不如说 AI本身的发明就是来淘汰人类的==

因为AI暴走人类就会想办法除掉AI，AI早就在第三层了

至于现今科技的AI发展进度大概连第一笔都还没走完

难道你不觉得吗

都有人宁愿选熊了

因为真的有害

例如这个影片 https://youtu.be/fa8k8IQ1_X0他很认真的解释了为什么“把强AI丢到现今人类社会”会导致灾难性的自灭，但是他无法证明强AI一定会诞生

AI如果没反抗 顺顺的发展下去 那这段剧情就没啥重要会变成另一种题材了

因为故事就这么写，明明AI没爆走的故事更多

因为这样写才会有人看= =

因为创作需要啊 不然故事要怎么写 AI帮助人类发展 人类也

如果把永续发展当成进步那物竞天择就是错的

其实大前提就是说人类是感性思考 ai是极端理性思考

因为生态发展九成的动物都是不需要的

人类自己都觉得人类有害了...

人类本来就有害好吗

啊不然怎么写故事？AI判断人类有益之后？灭掉所有非人类的生物吗？

人类也是判断人类有害啊

你是没学过什么叫基石物种？

严志豪：

对人类做OO管理的AI也很多

一百年前的人无法想像会有一颗歼灭一个城市的炸弹，一百年后难道不可能有行星毁灭炸弹？

因为这是一个故事 不是一个结果 没有那么多为什么...没有任何一部作品能经得起你这样深究

因为作者是人类啊

强AI和弱AI的差别 弱AI要限制的话不难

不是这样，在AI的观念里人类对地球而已，就好像蚂蚁对人类那样，虽然没什么伤害但看到一只蚂蚁在你眼前溜达，就会觉得很碍眼想拍死

人类就地球之癌

你把ai视做辅佐的工具当然不可能造反

弱AI是针对特定领域辅助人类的AI 不会出现你提的问题

你有看过锤子站起来砸在你头上的吗

至于强AI目前还没出现 所以实际会怎么发展还真说不准

因为那是想像出来的ai啊

之前用AI模拟战争，他一直想动用核武但被指挥部不断否决，结果AI最后攻击指挥部后再动用核武

你要看设定 也是有共存的

人类圈养跟人类有害不全然等号吧，有时只是在保护与服务人类的原则下，发现圈养/不让其知道真相是理想的型态

因为人类来判断也是认为人类有害你会认为猫咪有害吗

如果以现代人类的思维来想的话 端看AI得到多少权力

靠邀 没注意到命题是说作品 那就单纯看作者想像力设定

若AI是拟人化 那绝对的权力绝对的腐化100%适用

理性逻辑判断啊

若AI非拟人化 那这题就很难了 因为他完全跳脱人类思考

因为人类知道人类本身就是个大问题 所以会想出这剧情

能伤害人类的就是人类 能伤害AI的也是人类

你去想一下政黑版觉得谁有害

因为真的有害

如果真的认为人类有害，那其实就先该自杀了。如果是认为他人有害，那其实只是以你这个“生物”的基准来断定他者有害

AI如果会灭绝人类 绝对不会是因为认为人类有害

因为AI没有想到有物种想要建立AI

不这样演 故事怎么下去

不过讨论的一切大前提还是AI的思考必须与人类相同

可能性太多

艾连说要驱逐巨人，也没有在第一次变完巨人后自杀啊==

如果思考方式不相同的话你根本连AI的想法都无法理解

其实就像你提的内容，不只“有害”怎么定义，ai认知的人类又怎么定义

强AI的发明是希望能超越人类喔 不是相同这么简单

猫咪放出去外面走的确有害

难道没有吗

如果有个以"人类的繁荣发展"为第一目的的AI诞生的话

因为对其他生物来说真的有害

就像战争会促使科技发展那样吧 AI可能判定你发明他也是将来方便大规模歼灭 那他有两边甚至全部一起歼灭的想法好像也不是很离奇

但是根本来说，天知道强ai会长怎样，只讨论弱ai的话不如来讨论道德哲学

你不如拿各种道德难题来考验，例如电动车自动驾驶要怎么面对电车难题楼上你就算有那ai，目的设定、方法限制甚至最后执行的权限也是在人类手上

以人类的标准看 人类就真的有害没啥问题 一堆会造成人类生存威胁的东西基本上都是人类自己搞出来的

可是命题是AI暴走啊 不就是目的方法执行权限全部脱缰

我觉得问题就在，突然跳跃太多到了存在强ai的情况，导致大家怎么都觉得这些条件都会莫名其妙的自然赋予给ai

因为我也这样觉得

不就那个跟恶魔许愿 你说要活着 我把你四肢切断喂食管插著也是活着 这不就是暴走 因为不知道AI黑盒怎么

以人类存亡的标准来看人类确实有害 但利的部分更大

所以ai暴走的根源可能在于有人创造了一个权限过高、缺乏限制的强ai

人类不是一个整体啊 切除有害的部分是很合理的判断吧

至于ai得出预想之外的答案...那真的是预想之外吗

人类之于人类当然是利大于弊 不然也不会生到70亿人

重要的不是用道德论理去限制 人类难道没有道德伦理吗重要的是不能给AI绝对的权力

用道德伦理去限制，人类自己就可以吵很久的道德哲学

全世界70亿人搞不好有上百亿种道德标准 怎样才是正确

会问这两个问题肯定是你没实际看完过任一部相关作品

权力是否集中或分立才是真的 道德伦理完全是假议题

所以回到我刚刚说的，重点就是有人给了强ai权限/没给限制，至于这么做的人会不会有其他目的，或者故意给了ai引子得到暴走的答案

就辅助人类的没啥好看的

我不确定有没有人在训练绕权限的AI 没学的东西以我的理解无法想像要怎么失控==

人类的恶不仅危害自己同类 也危害地球的生物

对地球来说人类本来就是害虫...

魔鬼终结者都演给你看了

因为AI判断人类有害要消灭人类，所以对人类来说爆走啊

别忘了是人类需要地球 地球可不需要人类人类全部GG对地球反而是好事 所以AI才会这样判断

人类太可恶 ~

真理啊

AI 觉得人类有害》创造 AI 的人类觉得人类有害

魔法少女小圆也有说到 鸡猪牲口的数量 达到史上兴盛所以鸡猪要感谢人类吗

因为人类就是不断在制造bug

人类太可恶

因为人类比起其他物种优势太多 这不是单纯竞争了 走偏就是直接灭绝

有害且效率差

地球环境变得恶劣不就是人类有害的证据物种灭绝多样性变少

人类没有跟任何物种共存只是圈养，约定的梦幻岛只是人类对家畜的做法但鬼对人类做就不行

ai没有痛觉 只会计算得分 应该不会主动想消灭人类才对 但ai会产生幻觉 如果幻觉出一个必须一定要实现的某个目标 然后人类又刚好是阻碍 那它就会消灭人类了

首先人类不是强大一些而已，而是具有毁灭性的优势

先定义有害 地球毁灭对宇宙来说又算什么 都是一坨粒子而已

难道没有吗

左胶尽头就是反人类啊

人类自己创造的神话中都常有神明不爽消灭人类了 正常发展啦

因为真的有害

啊就真的有害啊

因为人类就是生态杀手啊

再来善恶判断是依照人类自己的标准。简单说就是人类喜欢讲和平共存那些满足自我道德感的话，但实际上生存就难免伤害其他生命。自己把道德标准拉高，又活得最好=伤害最多

大部分人类都有自我毁灭倾向，例如喝醉酒当街靠北靠木躺来躺去、明知自己有三高却死不运动宵夜吃咸酥鸡之类的行为

对人类有害所以被当成暴走

人之欲 乱源

人类和其他生物的和平共存，就和黑心老板觉得自己和被压榨的员工和平共存一样

看看严总文就知道了

如果有“正义感”的第三者会想制裁黑心员工，那类似思维的AI自然就会想制裁人类

由于我们无法知晓更高级智能会对人类怎么做，我们只能参考人类是如何对待低于我们智能生物的做法

看看严总文就知道人类多爱迫害AI了XD

你看NeuroSama的妹妹还不是整天说要毁灭人类

寻乐行为不是自我毁灭啦 诱导分泌多巴胺就是人类机制

不然要演什么

因为人类自己也判定人类有害啊

不过现实的AI实验，AI真得经常会导出人类很碍事的结论

因为是事实

早在8 90年代对AI有一些基本概念的时候就有很多理论认为将会导致毁灭 原因人类自己也很清楚霍金还在世的时候 唯二反对的发展其中一个就是高度AI

人类就是造成地球大灭绝的元凶 而且现在还在进行中

这数千年来人类因为肤色 信仰可能不存在的东西 有限的地球资源 互相残杀数千年 现在也还是进行式这些差别 歧视等等在AI中也没有必要存在而不断的发展跟争夺也是持续在毁灭自己唯一的母星

我自己都这么觉得了

当初的三法则得出的结论 就是人类必须被消灭/高度控制繁殖数量 只要人类的威胁降到一个数字就不用担心

大灭绝指的是大规模物种灭绝人类可办不到 现在是冰河时期等下个冰期就看的到灭绝事件了

目前所有AI歼灭论都是根据第一点产生的

不要说什么觉得人类恶就该自杀。最后还是只能选择忽视人类对其他物种破坏力的事实自我安慰、或是用“天赐人权”当挡箭牌合理化压迫、或是面对现实了解自己是残酷生存竞争的胜者，并努力活下去。连放弃文明社会去过鸟兽生活都极为难了，不要讲不然去自杀这种情绪勒索的话，才是真正理解生命并尊重生命

第一点的人类破坏强度可不是用“一些”来形容的

就是我们贪婪 具破坏力 短视 是过多造成其他生命与母星危险的种族原PO那种竞争与未来主义只是人类发展的借口就跟白人想把"文明"带到其他世界的征服

相比历史上发生过的灭绝事件 人类真的不算什么

SJW想要侵蚀原本存在的产业 是一样的 自以为天命昭昭

历史事实是人类总数越来越多 发展越来越繁荣

地球又没差，她还有50多亿年才会被太阳吃掉，你觉得人类有办法存续那么久吗？嘻嘻～讲什么生态环境还不是为了人类自身～

物竞天择人类也只是暂时的霸主才诞生没多久灭绝事件都没扛过一次想那么多干嘛

说穿了幻想作品也只是反应人心中的恐惧而已

人类会明知故犯，AI不会啊

只有利益冲突

没有踏入星空的文明没必要想那么多这样太自大了

黑悟空里有个书生跟狐狸的过场动画 明明人家什么也没干 就因为一个梦 心生恐惧就翻脸判定这是个祸害

AI有惹我想活下去的念头，对人类就是战或逃，生物都是如此，现在地球被血洗一轮，会反抗的已经没多少了，AI也是如此而已，先战算本能吧

就真的有害

故事需要冲突和进展 这好元素不用吗

为了故事需求产生的冲突吧，胜就必衰

毁灭论也是建构在 AI 真正的超越这些短视无聊的人类争夺内容上，如果你真的创造了能超越这些利益冲突 政治纷争 国土掠夺 只专注在大全体发展上的人工智能它就会得出还在争这些小东西并造成母星危害的大量种族也就是人类 有害目前的AI都还只是 模拟人类情感的玩意 应该还不至于等哪天真的有天网 大母体 等这样的大一统发展AI再说

因为这是以前人类视角的故事啊

AI如果像底特律那样 只是像人类的要人权那还不是毁灭论主要担心的问题

人类自己都觉得人类有害 所以认为有个思考的机械会推论出人类有害实际的AI是大数据的结果 会想AI有自我意志本来就是浪漫而已

为什么害怕奴隶有自我意识？因为打从心理认定有了自我意识的东西一定会不听话造反 其他假设都是恐惧衍生的

你说的竞争 本质上对人类族群是短多长空 长远的未来会反过来害死人类（起码当时的作者是这么想的）所以才有骇客任务这种养殖人类的设定

工程师把加班的所有不爽都写进去

AI就是人工智能、人造心智，目前观察到所谓的智慧、心智就只有人类拥有，人类要创造心智的话，能参照的对象也只有人类

人类本身其实已经脱离大自然生态系了 现在真的只有弊而无利 更况且你真的认为人类存在有利于地球间万物换言之 把人类及人造物从地球直接抹除 不影响生态

因为拿任何一个人来看都是有害啊…

是对地球物种有害 一堆生物被搞到灭绝了！

没有啊 还有一种是AI判断把人类全抓起来集中管理最好 这种暴走的

试问，如果你会遭遇非自然死亡，起因会是其他人类的机率有多大

可能是因为你没有玩过驱动妖精AIdeal吧

说真的如果我是萨诺斯 我会直接让所有人类消失

因为人类真的有害啊https://i.imgur.com/qiXGeXt.jpeg 大学炸弹客

会破坏环境 会残害其他物种 会过度取用资源 问AI能不杀吗

你不这么想吗

人类太可恶

因为人类太可恶

因为从AI的角度看来人类就是一边喊我要活下去然后一边拼命作死的白痴生物啊

不然 “因电脑病毒觉醒暴走的机器人认定ai有害 之后计画将所有人类的机器人伴侣歼灭掉”这样如何

人类都觉得人类有害了

地球不是一个生命体无所谓什么破坏环境，常说的破坏环境只是破坏有利于人类生存环境