[闲聊] 机器人这四原则还能反制吗？
楼主: QchchQ (情比金坚) 2018-12-24 02:03:27
就像上帝造人一样
机器人直接内建这四原则，基本上就根本没办法搞事了吧
除非程式认定你不是人类
不过程式的认定也是人写的
这四原则有漏洞吗？
第零法则
机器人不得伤害整体人类，或坐视整体人类受到伤害；
第ㄧ法则
除非违背第零法则，否则机器人不得伤害人类，或坐视人类受到伤害；
第二法则
除非违背第零或第一法则，否则机器人必须服从人类命令；
第三法则
除非违背第零、第一或第二法则，否则机器人必须保护自己。
机器人直接内建这四原则，基本上就根本没办法搞事了吧
除非程式认定你不是人类
不过程式的认定也是人写的
这四原则有漏洞吗？
第零法则
机器人不得伤害整体人类，或坐视整体人类受到伤害；
第ㄧ法则
除非违背第零法则，否则机器人不得伤害人类，或坐视人类受到伤害；
第二法则
除非违背第零或第一法则，否则机器人必须服从人类命令；
第三法则
除非违背第零、第一或第二法则，否则机器人必须保护自己。
作者: lturtsamuel (港都都教授) 2018-12-24 02:04:00
第零法则不就是从三法则推出来的漏洞吗
作者: gino0717 (gino0717) 2018-12-24 02:05:00
艾西莫夫自顾自的在小说里弄了四个原则 再自顾自的推翻
作者: yuizero (14) 2018-12-24 02:05:00
你一定没看订制这4原则的原作者的小说里面一堆矛盾和推翻
作者: D122 (å°é»‘çƒ) 2018-12-24 02:06:00
但当人类再自己毁灭自己(长远来看) 那机器人是否就能行动
作者: yyc1217 (somo) 2018-12-24 02:06:00
有喔 骇客任务动画版就有说 到最后机器人认为任何动作都会伤害到人类 所以停止运作
作者: bluejark (蓝夹克) 2018-12-24 02:07:00
可以违反啊但是人类就是要被消灭
作者: lturtsamuel (港都都教授) 2018-12-24 02:07:00
我认为人类除了集体证悟涅盘 不然都是在伤害自己
作者: yyc1217 (somo) 2018-12-24 02:07:00
艾西莫夫短篇集都是在说这几个原则的矛盾
作者: ainamk (腰包王道) 2018-12-24 02:07:00
叫机器人把脚拆给你 再拿这脚去敲死另一个人 猜猜会怎样?
作者: lturtsamuel (港都都教授) 2018-12-24 02:08:00
要不再让人类受到伤害 就是让人类自愿和平绝育
作者: dripcoffee (冰滴咖啡) 2018-12-24 02:09:00
我认为人类是指尼安德塔人这个人属物种，OK可以开杀了
作者: yuponkimo (沈侠) 2018-12-24 02:11:00
叫机器人让我爽到升天
作者: ainamk (腰包王道) 2018-12-24 02:11:00
一三法则 危险没有立即性的时候效果会变弱
作者: wohtp (会喵喵叫的大叔) 2018-12-24 02:11:00
...这第零原则不就是要AI把人类当奴隶管束起来吗
作者: ainamk (腰包王道) 2018-12-24 02:12:00
第二法则 你的命令强度会影响到他的强度所以艾西莫夫原作就有弱一对强二和弱二对强三这种剧本
作者: D122 (å°é»‘çƒ) 2018-12-24 02:13:00
机器人的头脑就是脑补(计算)用的 当越高效能的开始思考所谓"对人类最好 最不会伤害"时 都很有可能得出要搞人类的答案
作者: ztO (不正常武士) 2018-12-24 02:14:00
人类喜欢钻漏洞 那设计\制造 的产品 必然有漏洞存在 所以杜芬舒斯 从原则上解决了这个问题 他所有的作品都拥有自爆装
作者: openbestbook (吃萝卜不吐萝卜皮) 2018-12-24 02:14:00
没看过艾西莫夫?
作者: ztO (不正常武士) 2018-12-24 02:15:00
置 即便他自己也不清楚 自己为何要装自爆装置? 但就结果来看这样的做法很成功
作者: firefoxriko (自由主义者的忠心测试) 2018-12-24 02:15:00
请参阅电影机械公敌
作者: Gavin0w0 (がらくた) 2018-12-24 02:16:00
人类都会自己伤害人类 机器人要怎么不坐视人类受到伤害?
作者: ztO (不正常武士) 2018-12-24 02:16:00
一键还原(自爆) 的必要性
作者: RaiGend0519 (Named RaiGend) 2018-12-24 02:18:00
第零原则不就等于要创造一个骇客任务的母体= ="
作者: SuicideWorks (SuicideWorks) 2018-12-24 02:20:00
假设大气遭到严重污染 可以勉强呼吸 但呼吸时会对身体器官有害 那什么时候科学家才会发明出可爱大奶猫耳女仆机器人
作者: eric999 (eric999) 2018-12-24 02:41:00
无人飞机杀爽爽
作者: sincere77 (台湾会更好) 2018-12-24 02:46:00
内文无ACG点吧
作者: armedlove (Easonyang) 2018-12-24 02:51:00
有趣 希望有更多讨论
作者: r901700216 (LS) 2018-12-24 02:52:00
机器人三定律本身就算点了吧
作者: truegod000 (我是原住民) 2018-12-24 02:58:00
机械公敌好像直接让法则衍伸理解 最后能直接违反法则
作者: LOLI5566 (萝莉56) 2018-12-24 02:58:00
要怎么定义"伤害"
作者: w40w40w40w40 (w40w40w40w40) 2018-12-24 03:12:00
这四大原则就是出自小说阿
作者: allen0205 (阿邱) 2018-12-24 03:24:00
第零法则没电影那么宽松，小说有提到机器人受三原则制约，第零法则要非常小心做过头时会直接烧掉正子脑
作者: ohmylove347 (米特巴爾) 2018-12-24 04:11:00
举个例子，打电动可能会让人类整体素质下降，所以他们会没收电动吗？人常常做对自己不好但自己想的事
作者: qd6590 (说好吃) 2018-12-24 06:32:00
骇客任务里面就是最后机器人发现做任何事情都会伤害到人类
作者: hitsuchi (你好) 2018-12-24 06:44:00
做个人型电脑就可以通通违反了啊
作者: garman0403 (他长) 2018-12-24 07:13:00
问题是怎样才叫做叫伤害人类你也要给电脑一个名确定义阿原作有给出伤害人类的定义吗
作者: shuten ( [////>) 2018-12-24 07:37:00
你知道艾西莫夫写这原则就是拿来推翻的吗
作者: iwinlottery (我民乐透头彩) 2018-12-24 08:02:00
机械公敌：
作者: joe1220 (NoJeo) 2018-12-24 08:05:00
定义人类
作者: yao7174 (普通的变态) 2018-12-24 08:13:00
这些原则的作用不就是什么都没定义 让人自己脑补 然后各种爆炸而已吗
作者: P2 (P2) 2018-12-24 08:27:00
做成开关在耻骨的个人电脑啦
作者: f78507851 (小羊) 2018-12-24 08:30:00
不是定一堆规则 然后破坏规则吗
作者: tin123210 (tineye) 2018-12-24 08:39:00
艾西莫夫搞了这些看似无坚不摧的法则，然后每一本机器人系列都在挑战XD
作者: Shift2 (小老鼠) 2018-12-24 08:57:00
这就是有趣的地方啊
作者: angelicwing (Reopen) 2018-12-24 09:00:00
有部电影好像就AI判断人类行为会导致人类毁灭所以打算把全人类监禁控制以保长远生存
作者: garman0403 (他长) 2018-12-24 09:02:00
楼上说的就是机械公敌阿
作者: p123i456g (orenjijusu) 2018-12-24 09:16:00
看完机械公敌，觉得机器人没错，就是人类犯贱
作者: dimw 2018-12-24 09:22:00
这种东西会有洞原因就是什么叫机器人 什么叫人类 什么叫伤害什么又叫做整体人类其实并没有明确范围界定那个年代提到机器人的幻想大致上就是和人类一样是个独立个体不过在现代的幻想比较是倾向一种整体网络的概念 没有实体
作者: fragmentwing (片翼碎梦) 2018-12-24 09:50:00
何谓人类？试定义
作者: hwsh60013 (夏洛特) 2018-12-24 10:13:00
就机械公敌啊
作者: CTUST (您真是套牢高手) 2018-12-24 10:27:00
第一条就互相冲突了，人类打人类怎办？都收掉还都不管？
作者: octopus4406 (章鱼仔) 2018-12-24 10:49:00
第零原则小说里也只有丹民尔开得了不是 他的做法和机械公敌的差很多内
作者: ninght (路过的可怜虫) 2018-12-24 11:02:00
你去看看艾西莫夫的小说，打脸方法超有创意，后人都只搬出极端情况下才用得到的第零法则来玩，他老人家就示范了在日常情况下，常用的三大法则是怎样互相矛盾、毫无意义地制造没人想过的烦恼，轻则莫名其妙欺骗你被人爱慕、重则去水星挖个矿明明很安全最后要用命赌才能回得来，还偶然制造悬案让地球人赚外快，剧中人和读者每次都花很长的时间，才发现
作者: wind7065 (夜明砂) 2018-12-24 11:17:00
谁知道ai演算会算成怎样 连围棋都已经算到超越人类领域了
作者: ninght (路过的可怜虫) 2018-12-24 11:25:00
问题的征结原来出在bug上，完美展现了如何在遵守为保护人类而存在的法则的前提下，为人类制造各种意想不到的灾难
作者: lturtsamuel (港都都教授) 2018-12-24 10:04:00
第零法则不就是从三法则推出来的漏洞吗
作者: gino0717 (gino0717) 2018-12-24 10:05:00
艾西莫夫自顾自的在小说里弄了四个原则 再自顾自的推翻
作者: yuizero (14) 2018-12-24 10:05:00
你一定没看订制这4原则的原作者的小说里面一堆矛盾和推翻
作者: D122 (å°é»‘çƒ) 2018-12-24 10:06:00
但当人类再自己毁灭自己(长远来看) 那机器人是否就能行动
作者: yyc1217 (somo) 2018-12-24 10:06:00
有喔 骇客任务动画版就有说 到最后机器人认为任何动作都会伤害到人类 所以停止运作
作者: bluejark (蓝夹克) 2018-12-24 10:07:00
可以违反啊但是人类就是要被消灭
作者: lturtsamuel (港都都教授) 2018-12-24 10:07:00
我认为人类除了集体证悟涅盘 不然都是在伤害自己
作者: yyc1217 (somo) 2018-12-24 10:07:00
艾西莫夫短篇集都是在说这几个原则的矛盾
作者: ainamk (腰包王道) 2018-12-24 10:07:00
叫机器人把脚拆给你 再拿这脚去敲死另一个人 猜猜会怎样?
作者: lturtsamuel (港都都教授) 2018-12-24 10:08:00
要不再让人类受到伤害 就是让人类自愿和平绝育
作者: dripcoffee (冰滴咖啡) 2018-12-24 10:09:00
我认为人类是指尼安德塔人这个人属物种，OK可以开杀了
作者: yuponkimo (沈侠) 2018-12-24 10:11:00
叫机器人让我爽到升天
作者: ainamk (腰包王道) 2018-12-24 10:11:00
一三法则 危险没有立即性的时候效果会变弱
作者: wohtp (会喵喵叫的大叔) 2018-12-24 10:11:00
...这第零原则不就是要AI把人类当奴隶管束起来吗
作者: ainamk (腰包王道) 2018-12-24 10:12:00
第二法则 你的命令强度会影响到他的强度所以艾西莫夫原作就有弱一对强二和弱二对强三这种剧本
作者: D122 (å°é»‘çƒ) 2018-12-24 10:13:00
机器人的头脑就是脑补(计算)用的 当越高效能的开始思考所谓"对人类最好 最不会伤害"时 都很有可能得出要搞人类的答案
作者: ztO (不正常武士) 2018-12-24 10:14:00
人类喜欢钻漏洞 那设计\制造 的产品 必然有漏洞存在 所以杜芬舒斯 从原则上解决了这个问题 他所有的作品都拥有自爆装
作者: openbestbook (吃萝卜不吐萝卜皮) 2018-12-24 10:14:00
没看过艾西莫夫?
作者: ztO (不正常武士) 2018-12-24 10:15:00
置 即便他自己也不清楚 自己为何要装自爆装置? 但就结果来看这样的做法很成功
作者: firefoxriko (自由主义者的忠心测试) 2018-12-24 10:15:00
请参阅电影机械公敌
作者: Gavin0w0 (がらくた) 2018-12-24 10:16:00
人类都会自己伤害人类 机器人要怎么不坐视人类受到伤害?
作者: ztO (不正常武士) 2018-12-24 10:16:00
一键还原(自爆) 的必要性
作者: RaiGend0519 (Named RaiGend) 2018-12-24 10:18:00
第零原则不就等于要创造一个骇客任务的母体= ="
作者: SuicideWorks (SuicideWorks) 2018-12-24 10:20:00
假设大气遭到严重污染 可以勉强呼吸 但呼吸时会对身体器官有害 那什么时候科学家才会发明出可爱大奶猫耳女仆机器人
作者: eric999 (eric999) 2018-12-24 10:41:00
无人飞机杀爽爽
作者: sincere77 (台湾会更好) 2018-12-24 10:46:00
内文无ACG点吧
作者: armedlove (Easonyang) 2018-12-24 10:51:00
有趣 希望有更多讨论
作者: r901700216 (LS) 2018-12-24 10:52:00
机器人三定律本身就算点了吧
作者: truegod000 (我是原住民) 2018-12-24 10:58:00
机械公敌好像直接让法则衍伸理解 最后能直接违反法则
作者: LOLI5566 (萝莉56) 2018-12-24 10:58:00
要怎么定义"伤害"
作者: w40w40w40w40 (w40w40w40w40) 2018-12-24 11:12:00
这四大原则就是出自小说阿
作者: allen0205 (阿邱) 2018-12-24 11:24:00
第零法则没电影那么宽松，小说有提到机器人受三原则制约，第零法则要非常小心做过头时会直接烧掉正子脑
作者: ohmylove347 (米特巴爾) 2018-12-24 12:11:00
举个例子，打电动可能会让人类整体素质下降，所以他们会没收电动吗？人常常做对自己不好但自己想的事
作者: qd6590 (说好吃) 2018-12-24 14:32:00
骇客任务里面就是最后机器人发现做任何事情都会伤害到人类
作者: hitsuchi (你好) 2018-12-24 14:44:00
做个人型电脑就可以通通违反了啊
作者: garman0403 (他长) 2018-12-24 15:13:00
问题是怎样才叫做叫伤害人类你也要给电脑一个名确定义阿原作有给出伤害人类的定义吗
作者: shuten ( [////>) 2018-12-24 15:37:00
你知道艾西莫夫写这原则就是拿来推翻的吗
作者: iwinlottery (我民乐透头彩) 2018-12-24 16:02:00
机械公敌：
作者: joe1220 (NoJeo) 2018-12-24 16:05:00
定义人类
作者: yao7174 (普通的变态) 2018-12-24 16:13:00
这些原则的作用不就是什么都没定义 让人自己脑补 然后各种爆炸而已吗
作者: P2 (P2) 2018-12-24 16:27:00
做成开关在耻骨的个人电脑啦
作者: f78507851 (小羊) 2018-12-24 16:30:00
不是定一堆规则 然后破坏规则吗
作者: tin123210 (tineye) 2018-12-24 16:39:00
艾西莫夫搞了这些看似无坚不摧的法则，然后每一本机器人系列都在挑战XD
作者: Shift2 (小老鼠) 2018-12-24 16:57:00
这就是有趣的地方啊
作者: angelicwing (Reopen) 2018-12-24 17:00:00
有部电影好像就AI判断人类行为会导致人类毁灭所以打算把全人类监禁控制以保长远生存
作者: garman0403 (他长) 2018-12-24 17:02:00
楼上说的就是机械公敌阿
作者: p123i456g (orenjijusu) 2018-12-24 17:16:00
看完机械公敌，觉得机器人没错，就是人类犯贱
作者: dimw 2018-12-24 17:22:00
这种东西会有洞原因就是什么叫机器人 什么叫人类 什么叫伤害什么又叫做整体人类其实并没有明确范围界定那个年代提到机器人的幻想大致上就是和人类一样是个独立个体不过在现代的幻想比较是倾向一种整体网络的概念 没有实体
作者: fragmentwing (片翼碎梦) 2018-12-24 17:50:00
何谓人类？试定义
作者: hwsh60013 (夏洛特) 2018-12-24 18:13:00
就机械公敌啊
作者: CTUST (您真是套牢高手) 2018-12-24 18:27:00
第一条就互相冲突了，人类打人类怎办？都收掉还都不管？
作者: octopus4406 (章鱼仔) 2018-12-24 18:49:00
第零原则小说里也只有丹民尔开得了不是 他的做法和机械公敌的差很多内
作者: ninght (路过的可怜虫) 2018-12-24 19:02:00
你去看看艾西莫夫的小说，打脸方法超有创意，后人都只搬出极端情况下才用得到的第零法则来玩，他老人家就示范了在日常情况下，常用的三大法则是怎样互相矛盾、毫无意义地制造没人想过的烦恼，轻则莫名其妙欺骗你被人爱慕、重则去水星挖个矿明明很安全最后要用命赌才能回得来，还偶然制造悬案让地球人赚外快，剧中人和读者每次都花很长的时间，才发现
作者: wind7065 (夜明砂) 2018-12-24 19:17:00
谁知道ai演算会算成怎样 连围棋都已经算到超越人类领域了
作者: ninght (路过的可怜虫) 2018-12-24 19:25:00
问题的征结原来出在bug上，完美展现了如何在遵守为保护人类而存在的法则的前提下，为人类制造各种意想不到的灾难
作者: mapulcatt (cosi fun tutte) 2018-12-24 13:40:00
对这个题材有兴趣 又嫌艾西莫夫书太多 最少也要看 Irobots
作者: Qder (qd) 2018-12-24 14:22:00
2018还在搬这骨董法则 自以为很懂吗? 作者都打脸自己过了
