Re: [闲聊] 机器人三大法则有解吗?

楼主: cmchen755 (阿铭)   2023-10-27 11:54:50
以我看过有关机器人的作品,
艾西莫夫的“机器人短篇故事集”是单纯探讨机器人身为“工具”的意义,
而不是给机器人加上“善”、“恶”、“混沌”属性的“异种族”
工具就是用来帮人做事的,成本低,效率高的就是好工具
为了省事,工程师要归纳出“好工具”的设计原则
首先人命最重要,“先讲求不伤身体”,所以工具不伤人是首要考虑
再来就是工具本身,工具要有作用(接收并执行人的命令)才是好工具
第三,工具本身也有成本,耐用不易坏的工具也是好工具的必要条件
这种排序靠的就是价值高低的比较
照样造局,我也来个汽车三法则
第一法则: 汽车不得因车祸撞死路人,或因安全设备不足使乘客受到伤害
(安全原则: 人命很贵,伤到人要赔很多很多钱!)
第二法则: 汽车必须执行驾驶的行车操作,除非驾驶行为会出车祸撞死人
(效率原则: 车不能载人到目的地,或是车上配备不能用,那我买车何用?)
第三法则: 在不违背安全和行车原则,汽车需要耐用不会损坏
(成本原则: 如果车动不动顾路,常常得上课,那这车用起来还真麻烦!)
因为是靠价值来排序,所以只要价值观产生变化,原来的法则马上就会混乱
车的安全设计有问题?只要赔的钱小于重造新车,那就没问题啦!
法拉利妥善率不好换丰田阿提斯怎么样?看看车价,在路边休息也不错啊!
艾西莫夫创造出“机器人三大法则”就是用来打破的,
光是叙述三法则的矛盾处小说内容就很精彩充实
重点是人类设计的各种工具存在同样状况
“安全最重要”、“生命无价”仅管是主流共识
但事实上真的是这样吗?
作者: linzero (【林】)   2023-10-27 11:59:00
马教授:什么是恶意?
作者: ainamk (腰包王道)   2023-10-27 12:00:00
不是,你是不是忘了艾老就有写AI自驾车了?

Links booklink

Contact Us: admin [ a t ] ucptt.com