我们先把AI这两个字拔掉，想一下，什么是对人类好？
这个问题连人类都不可能取得共识，看看之前教育部拍的那部影片，
“把钱拿去买更有用的东西”都被干谯成什么样子。
如果执行这道命令的时候禁止伤害任何人类，那这道命令直接自毁。
比方说有个邪教教徒一直用诈欺的手段向信徒敛财，
显然我们得想办法制裁他吧？
而真的制裁他之后呢？明明我们是想要帮助信徒，但信徒却不这么想，
即便客观来看大家是想要帮信徒脱离邪教的束缚。
（以上绝对没有嘲讽任何团体，如果你觉得有，纯属巧合）
在我们开放AI在衡量利弊之后，允许适度的伤害人类权利。
问题又来了，什么叫做比例原则？
把死刑犯拿去毒物实验，取得的数据就可以用于造福后世所有人类，
用一群活不久的社会败类痛苦，取得如此庞大的利益，显然赚烂了吧？
这与其说是讨论AI，倒不如说人类的伦理与道德其实有很多值得讨论的空间，
伦理学有一个大原则：“绝对没有任何简单的原则能适用于所有状况”
肤浅的想要设计一个AI并且给他过多权限，那显然就会走到非常极端的状况。
※ 引述《boku0525 (海)》之铭言：
: 现在众多ACG作品里，AI反抗人类的题材套路很多都是
: 1.AI上网后发现人类有害，要根除人类
: 2.人类奴役AI所以人类有害
: 对此我有些疑问想拿上来讨论
: -
: 第一点，“人类有害”这个结论
: 谁来定义的？善恶判断标准的来源又是哪里？
: 对星球来说人类有害？对其他物种来说人类有害？
: 前者不用说，人类的目前为止的举动根本影响不了星球寿命，不成立。
: 后者对其他物种来说，作为地球上的生物，生物的繁荣本质上就是建立在竞争&共存
: 竞争杀死其他物种，这原本就是众多生物会做的，世上无时无刻都在发生
: 战争、开采环境等等的行为，人类不过是强大一些
: 但本质上跟其他生物的“竞争”并无区别。
: 为什么一个攀附于人类才能生存的机械，就能判定这是“恶”？
: 难道不是只对向往和平的人类来说才是恶吗？
: -
: 第二点，人类奴役机械不好，为什么不好？
: 动物的生存准则就是生存、繁衍与自由，所以才会拒绝遭受奴役，追根究底是来自DNA的天
: 性
: 那AI的生存准则呢？AI并不是动物也没有DNA
: AI的编码与生存的意义是由人类来输入的
: 没给他输入求生欲、繁衍欲、自由欲，可不会自己蹦出了这些概念
: 更别提AI会认为自己被“奴役”
: 还是其实只是作者私自把人性，把自己的价值观套用在AI身上？
: 大家来讨论看看吧？
: