[讨论] 圣约:大卫的思维(AI机器人会说谎以后)

楼主: CassSunstein (Pm)   2018-04-26 10:12:02
机器人的“设定”,依照当初的“三法则”中,
最重要的是“绝不能伤害人类”。
但AI发展悲观论的看法,如魔鬼终结者等等,会认为AI有自我意识甚至“创造力(思维)
”以后,自然而然会判断人类对机器人没什么用处、甚至把机器人当奴工来压榨,以及
人类凭什么当“主人”(大卫也产生类似想法:“我”为什么要帮人类)?
这是不是显得机器人三法则遇到AI的发展,自然会显得落伍与不可能?
甚至,AI到了圣约中的大卫,已经开始会“说谎”了(另外,包含以行动攻击女主)。
因此圣约号上众人听到大卫瞎掰的“圣约号上的生物武器‘意外’泄出”、及代理船长
听到大卫瞎掰的“我保证这些卵对你而言很安全,近一点看看”.....
AI发展至此,可以正式被判断:机器人伤害人类已经大有可能。
以至于,大卫对于萧博士的“爱”到底是真是假,都大有疑问。
或是说,靠着机器人“自我脑补”,认为“爱她就是把她当实验白老鼠一样来‘爱’”的
这种嘴砲式“解释”?
现实中,那位AI发展最先进的机器人“苏菲亚”,在跟记者的对谈中,其实也隐含类似
“不排除毁灭人类”的逻辑。记者用“你会想毁灭人类”吗来询问,苏菲亚回答说:
“人类多虑了。请放心:只要人类对我好,我就会对人类好”
楼主: CassSunstein (Pm)   2018-04-26 11:01:00
所以 创造力真的是关键 可以"绕开"原先设定...

Links booklink

Contact Us: admin [ a t ] ucptt.com