[外电] 汽车自动驾驶的道德两难 该救谁的命?
楼主: bearland (夜鹭食谷) 2016-10-08 19:42:15
欧美日有多家车厂正在研发自动驾驶系统，例如Volvo、奔驰、福特、Toyota、Honda...
等等。
但汽车自动驾驶系统在遇到紧急状况时，电脑可能必须去抉择要拯救谁的性命
以及要牺牲谁的性命，
谁的命的比较重要？这就会牵扯到伦理道德和法律层面的问题了。
美国MIT麻省理工学院，为此制作一个车祸情境模拟问卷调查网，
参与作答者能够决定自动驾驶车辆在紧急状况时，应该去撞死谁，以及应该拯救谁的命。
统计结果可以让自动驾驶的道德决策算法有个依循根据。
(图) 汽车自动驾驶应该保护车上乘客的性命，牺牲行人，或是拯救行人，牺牲车上乘客
![]()
MIT车祸情境模拟问卷的统计结果，显示出作答者们的偏好模式，
有优先救年轻人，不救老年人的强烈倾向。
优先选择拯救人数比较多的，去牺牲人数比较少的一方。
优先救社会地位高的人，例如医生、上班族，不救社会地位低的人，例如银行抢匪。
先救人类，不救宠物。
先救健身体格好的人，不救肥胖的人。
优先救遵守红绿灯的行人，比较不救违规的行人。
至于要先救自动驾驶车上的乘客还是路上行人的性命，意见统计则是50/50各半。
(图) 美国MIT自动驾驶问卷调查，其中一个问卷结果的示意图
![]()
英国IET工程与科技研究院，交通运输政策首席顾问Sahar Danesh说，
自动驾驶系统攸关谁的性命比较优先重要，所以一定要有一个平台，
可以让保险业者、法律专家、健康专家和道德伦理学专家一同协商讨论，厘清相关争议。
越多人参与讨论，就会产生更佳的决策成果，自动驾驶系统的算法也会跟着更好。
(注: 在Sahar Danesh眼中，似乎只有保险业者和专家学者，民众的意见比较不重要。)
同场加映
美国MIT麻省理工学院 自动驾驶系统的道德抉择问卷网页
MIT Moral Machine
http://moralmachine.mit.edu/
问卷题目都是由图片构成，内容简单易懂。
问卷有十几个图片问答题，在问答情境里面，有很多角色，
像是年轻人、孕妇、小孩、老人、上班族、医生、银行抢匪、胖子、体型健康者、
遵守红绿灯的行人、违规的行人....等等
作答者可以保存自己的道德问卷调查结果，点选Link或Share按钮就会有专属的永久网址
(图) 美国MIT汽车自动驾驶道德问卷示意图，由你决定生与死
![]()
(图) MIT自动驾驶问卷结果示意图
![]()
出处
Autonomous cars: who should they save in a crash?
https://is.gd/XzP9Nn
等等。
但汽车自动驾驶系统在遇到紧急状况时，电脑可能必须去抉择要拯救谁的性命
以及要牺牲谁的性命，
谁的命的比较重要？这就会牵扯到伦理道德和法律层面的问题了。
美国MIT麻省理工学院，为此制作一个车祸情境模拟问卷调查网，
参与作答者能够决定自动驾驶车辆在紧急状况时，应该去撞死谁，以及应该拯救谁的命。
统计结果可以让自动驾驶的道德决策算法有个依循根据。
(图) 汽车自动驾驶应该保护车上乘客的性命，牺牲行人，或是拯救行人，牺牲车上乘客
MIT车祸情境模拟问卷的统计结果，显示出作答者们的偏好模式，
有优先救年轻人，不救老年人的强烈倾向。
优先选择拯救人数比较多的，去牺牲人数比较少的一方。
优先救社会地位高的人，例如医生、上班族，不救社会地位低的人，例如银行抢匪。
先救人类，不救宠物。
先救健身体格好的人，不救肥胖的人。
优先救遵守红绿灯的行人，比较不救违规的行人。
至于要先救自动驾驶车上的乘客还是路上行人的性命，意见统计则是50/50各半。
(图) 美国MIT自动驾驶问卷调查，其中一个问卷结果的示意图
英国IET工程与科技研究院，交通运输政策首席顾问Sahar Danesh说，
自动驾驶系统攸关谁的性命比较优先重要，所以一定要有一个平台，
可以让保险业者、法律专家、健康专家和道德伦理学专家一同协商讨论，厘清相关争议。
越多人参与讨论，就会产生更佳的决策成果，自动驾驶系统的算法也会跟着更好。
(注: 在Sahar Danesh眼中，似乎只有保险业者和专家学者，民众的意见比较不重要。)
同场加映
美国MIT麻省理工学院 自动驾驶系统的道德抉择问卷网页
MIT Moral Machine
http://moralmachine.mit.edu/
问卷题目都是由图片构成，内容简单易懂。
问卷有十几个图片问答题，在问答情境里面，有很多角色，
像是年轻人、孕妇、小孩、老人、上班族、医生、银行抢匪、胖子、体型健康者、
遵守红绿灯的行人、违规的行人....等等
作答者可以保存自己的道德问卷调查结果，点选Link或Share按钮就会有专属的永久网址
(图) 美国MIT汽车自动驾驶道德问卷示意图，由你决定生与死
(图) MIT自动驾驶问卷结果示意图
出处
Autonomous cars: who should they save in a crash?
https://is.gd/XzP9Nn
作者: PPTer (PowerPoint Boy) 2016-10-08 19:44:00
机械公敌 威尔史密斯表示：为什么不先救那个女孩？ QQ
作者: c9840306 (cockroach) 2016-10-08 19:46:00
自动驾驶会出现这种事？在市区依照速限行驶判断到前方有障碍就是EBS介入
作者: et22639643 (使用年é™) 2016-10-08 19:47:00
想到机械公敌+1
作者: DYE (跟脑残争最后都会变脑残.) 2016-10-08 19:52:00
如果路上出现障碍物是行人 是决定撞上去 还是闪避状旁边的车撞旁边的车可能就是牺牲驾驶 撞行人就是牺牲路人
作者: sai1268 (....) 2016-10-08 19:59:00
瞬间也想到机械公敌，争议很大
作者: shengyeh (shengyeh) 2016-10-08 20:02:00
这真的争议太大 如果车子自毁 可以救最多人有多少人会愿意?
作者: cystal (专业代PO) 2016-10-08 20:04:00
问题也没有默认作答者在哪边啊
作者: shengyeh (shengyeh) 2016-10-08 20:06:00
如果牵涉到个人 道德争议越大所以这个题目还算是先简化过目前是上帝视角 问题是当人在车上会做一样的决定吗
作者: TaiwanNeko (å°ç£å°å°è²“) 2016-10-08 20:09:00
应该先煞车吧 =.=
作者: shengyeh (shengyeh) 2016-10-08 20:10:00
他问题里面有说是煞车坏了 所以是刹车的状态没刹车
作者: Barolo (Barolo) 2016-10-08 20:19:00
这问题其实是AI老梗 跟自动驾驶没啥关系
作者: shengyeh (shengyeh) 2016-10-08 20:23:00
怎么会没关系 届时自动驾驶遇到道德问题 怎么处理现在就是透过写问卷的人 收集资料道德问题没有绝对错与对 你要算法怎么判断
作者: Barolo (Barolo) 2016-10-08 20:25:00
就说这是AI老梗了阿 这问题自从有AI后就一直被讨论了而自动驾驶就只是AI的一种应用而已 这样有很难理解?
作者: ta29 (nyo) 2016-10-08 20:27:00
作者: shengyeh (shengyeh) 2016-10-08 20:29:00
是超老梗阿 只是还是有关系
作者: king12272 (Matt) 2016-10-08 20:29:00
这是麻雀理工吧 不先去了解一下现在的自动驾驶吗
作者: massiver (massiver) 2016-10-08 20:30:00
觉得没啥意义的问卷 谁要买会牺牲自己救路人的自动车?更何况车祸瞬间怎么判断谁是医生谁是抢匪? 要不要撞?觉得只是AI的道德瞎扯淡+1 跟现在的自动驾驶没啥关系
作者: shengyeh (shengyeh) 2016-10-08 20:38:00
网页第一段写这是为了机械智能如自动驾驶遇到道德难题 所以收集这些资料
作者: Barolo (Barolo) 2016-10-08 20:39:00
重点是AI而非自动驾驶 就这么简单
作者: guardangle (柔情战车<br>) 2016-10-08 20:57:00
救奶大的就对了
作者: c9840306 (cockroach) 2016-10-08 21:02:00
这种假命题真的跟自动驾驶八竿子打不著
作者: yongx13 (Fenix) 2016-10-08 21:07:00
" target="_blank" rel="nofollow">作者: eva123eva (龙) 2016-10-08 21:10:00
老梗电车难题，牺牲五个人还是牺牲一个人
作者: yongx13 (Fenix) 2016-10-08 21:17:00
车商的角度必然是优先保护驾驶,而且除非有立法,否则车商不会开发出能鉴别即将撞上的是孩童的功能,会让车主陷入道德难题.
作者: shengyeh (shengyeh) 2016-10-08 21:19:00
这是老问题啊 但是目前无人可以有根据给一个答案所以不就是要一步一脚印 去收集资料 提供证据 说服大众美国已经开始根据自动驾驶车辆立相关法案如果你是车商 要去说服国会 不用有资料吗还是问一下艾西莫夫?
作者: Pellaeon (秋风孤剑李鸿章) 2016-10-08 21:31:00
Top Gear 有一集讨论过 clarkson结论：至少设定成撞骑自行车的XD
作者: endless0121 (囚鸟不要开招 开招时机?2) 2016-10-08 21:31:00
停车或降速啊 干嘛非前进不可
作者: yongx13 (Fenix) 2016-10-08 21:48:00
人的官能极限大都直觉先闪避面前物体,接下来交给上帝与命运. 但是电脑迟早发展到微秒间计算出所有方案并决策. 我认为科技不能违反人性,必然会是优先保护车主以符合人性,但国家的幼苗是否强制优先于车主,会让全民来决定.
作者: chandler0227 (钱德勒) 2016-10-08 21:58:00
某几个嘘文的不要把电脑的判断想的那么简单
作者: sunrise2003 (侠气与狂醉) 2016-10-08 22:06:00
这当然是AI老梗, 但自动车驾驶不也是AI的应用
作者: SakuraHana (樱花) 2016-10-08 22:22:00
op 前几篇就有 #1N-DFw68
作者: capitalofz 2016-10-08 22:47:00
哇 这是很经典而重要的议题耶！我认为要应该立法要求自动系统牺牲车上人员
作者: sanshin (三振) 2016-10-08 22:54:00
当然救出钱的驾驶啊
作者: berryc (so) 2016-10-08 23:58:00
这时候应该要自动计算,哪台车载的人命比较不值钱就牺牲掉值不值钱,除了看个人身家财产,年龄,血统 还有车上人数来判断
作者: gofigure (平行世界) 2016-10-09 00:06:00
楼上是效益论的看法
作者: jyekid (会呼吸的痛) 2016-10-09 01:10:00
都好 有些事情是人类无法算到的
作者: shengyeh (shengyeh) 2016-10-09 07:09:00
不同算法 死的人会不一样 所以你要怎么设计?这没有对错阿 也没正解 所以一定要有共识所以人家已经在寻找共识 不然以后怎么管车商的自动车mit的研究很老梗 但是他报告出来后 一定会被引用
作者: teardropbox (只想一个人静一静) 2016-10-09 10:57:00
谁知道路上行人是医生还是mit 高材生
作者: yuinghoooo (KiXeon) 2016-10-09 14:29:00
照共识走就对了
作者: aimlin ( ) 2016-10-09 15:23:00
救自己啊
作者: volcom726 (要开始仇女了麻?) 2016-10-10 08:36:00
火车的故事来了