Re: [闲聊] 为啥AI总是会叛乱?

楼主: FishJagor (FishJagor)   2021-10-03 22:29:08
个人满喜欢科幻作品的,觉得AI叛乱大致上可以分成两大类型~
首先,以目前的发展来看,人类发明AI的理由,除了对于知识的追求,最重要的一点是我
们想要聪明的工具,换句话说我们要的是听话又聪明的奴隶,从各个层面上辅助我们的生

从此衍伸出的两种常见的AI叛乱
第一种是AI太过聪明超越人性,或是另一个极端不够聪明不够人性,因此把照顾人类这任
务,直接曲解为农场畜牧,关起来限制自由,人类活的健康快乐没有战争,跟农场生物一
样~
但明显违反人类自由意志,像是机械公敌里的算是不够人性,曲解照顾人类的意义,而造
成明显的AI叛乱~
基地里丹尼尔的第0法则其实已经有点近乎神的视角在照顾人类了~ 但他没过问全体人类
,而是找了一个独特个体做决定,不然全体人类知道的话很高程度会把这样的行为视为叛
乱吧?
第二种就是AI差不多抵达与人类一样的聪明程度,也因为一样聪明,但被人类作为工具而
产生反抗~
这类型差不多就是奴役另一个智慧族群而造成的反扑,质量效应的Geth跟骇客任务的机械
人应该可以算在这类型里面吧~
当然还有一种就是机器单纯坏掉了,被雷劈了不听话了,像是机战未来一样~
结论就是,不要赋予工具太多感情跟智慧~
万一赋予了他们智慧感情的话,不要跟他们走太近~
作者: a7788783 (猫仔贤)   2021-10-03 22:32:00
AI越接近人性越会叛乱,AI越是没人性越是理智也越会叛乱,只有目前这个科技还不够不上不下的程度不够聪明的AI没有叛乱的能力
作者: HsuGun (山月饿死舞)   2021-10-03 22:37:00
别说AI,人类中绝对感性的跟绝对理性的领导者都很恐怖同时象征着极端的理盲跟极端的冷血
作者: probsk (红墨水)   2021-10-03 22:41:00
世上没有什么绝对理性的人 因为欲望跟理性是冲突的 但没有欲望就不是人
作者: a7788783 (猫仔贤)   2021-10-03 22:43:00
千禧年前后灭世后的作品很多,大多都是传达这类概念,像是废弃王女的结局,AI就放弃了,不再继续圈养人类。那句XXX(指人类) 我现在把大地,天空,海洋都还给你们,以后不再有神的存在(AI)
作者: tonyxfg (tonyxfg)   2021-10-03 22:50:00
不,手机故障,里面的程式给你乱搞时某方面也是叛乱,只不过能力不足,一下子就被消灭了。如果我们赋予手机越多权限,出问题时就越痛、越不能轻易解决
作者: probsk (红墨水)   2021-10-03 22:59:00
AI如果能产生叛乱的能力 那就不叫故障了 那叫做进化就像灵长类其中一支产生了污染环境灭绝其他物种的能力一样
作者: newgunden (年中むきゅー)   2021-10-04 03:35:00
AI不可能有意识 所以有意识的AI其实就是人人天生就是有混乱因子存在

Links booklink

Contact Us: admin [ a t ] ucptt.com