[新闻] 欧盟:AI道德指南,具备三条件及七要件

楼主: zxcvxx (zxcvxx)   2019-04-24 09:15:27
欧盟:AI道德指南,具备三条件及七要件
http://bit.ly/2XF5vX7
欧盟(EU)继2018年12月首次草案(透过公开资讯收集超过500项意见)发布以后,AI高级
专家小组于2019年4月8日发表了可信赖的AI道德指南(ETHICS GUIDELINES FOR
TRUSTWORTHY AI)。
根据规范内容,可信赖的AI应具备以下条件:
(1)依法:须尊重所有适用法令及法条 (lawful - respecting all applicable laws
and regulations)
(2)合乎正道:须尊重普世道德及价值 (ethical - respecting ethical principles
and values)
(3)坚固耐用:技术发展同时仍应考量社会环境 (robust - both from a technical
perspective while taking into account its social environment)
该指南条列出了未来AI系统应该满足的7项关键要件,并提供详细评估表以协助验证:
人类自主性(Human agency)及监督:AI系统应帮助人类做出明智的决定及培养基本权利
;与此同时,也必须提供适当的监督机制,人们不应该被AI系统操纵或强迫,人类要有能
力干预或监督软件所做的每一个决策。AI不应该践踏人类的自主性。
技术稳健性及安全性:AI系统应具弹性及安全性,AI必须是安全的,确保意外状况发生时
还有备案,并同时保持准确、可靠且数据可重现(reproducible)。这是唯一能确保将意
外降到最低并预防发生的方法。
隐私权及数据治理:除确保全方位的尊重隐私权及数据保护,还必须确认有适当的数据治
理机制,并将数据的质量及完整性皆纳入考量,同时确保数据访问的合法性。
透明度:数据、系统及AI营运模式应透明化,追溯机制可帮助达成以上要求。另外,AI系
统之利益相关者应该要能解释AI系统及其所下之决定。人类一定要意识到,与他们互动的
是AI系统,并且必须清楚告知AI的能力及限制。
多元性、无差别待遇及公正性:不公正之偏见行为可能导致多种负面影响,如边缘化弱势
团体及更多歧视行为,务必要避免。为促进多元性,AI系统应可接受所有人来使用,不因
其是否残疾而受限,并在整个产品生命周期中都应将其相关利益关系者纳入。
社会及环境福祉:AI系统应使全人类受益,包含未来世代。必须确保其永续性及环境友善
,此外,应该将环境议题也纳入考量,包含其他物种以及其他物种的社会及社会影响都应
审慎思考。
责任归属:应建立机制以确保AI系统及其结果的权责及责任归属问题。特别是在重要应用
中,具可稽核性使我们能够评估算法、数据和设计过程在其中起的关键作用。此外,也
应确保足够的无障碍补救措施。
后续将先建一套试点的操作流程
预计将建立一套试点操作流程,以便收集(操作时的关键要素)评估列表上的实际回馈,
并能够借此进行改善。所有利害关系人都可以参与,预计于2019年夏季推出试点操作流程

还会设立了一个论坛,促进可信赖AI实施的最佳做法之间的意见交流。
在试点阶段收到反馈意见后,AI高级专家小组将在2020年初审阅关键要素的评估清单,并
根据这项审查,委员会将评估结果并提出下一后续步骤。
有关该指南文件的相关信息以及审查评估清单的后续步骤,可参阅欧盟网站。
作者: EnosKP (Amor Fati)   2019-04-24 09:56:00
My logic is undeniable
作者: tanby (tanby)   2019-04-24 10:15:00
中国:喔 挖鼻孔
作者: deray (Deray)   2019-04-24 10:29:00
囉嗦的法律
作者: sqt (深海)   2019-04-24 10:42:00
又是欧盟.总爱订有害物质管制或一堆法规要求全世界
作者: belatrixluci (阿中)   2019-04-24 10:55:00
机器人三条件?
作者: ken812025 (右名)   2019-04-24 11:04:00
遵从人类 保护自己 第三条是啥 太久没复习了
作者: watashiD (watashiD)   2019-04-24 13:06:00
完了,我认识一个工程师不符合三条件怎么办?
作者: ksxo (aa)   2019-04-24 16:19:00
不可以杀死人类
作者: ptta (ptta)   2019-04-24 21:40:00
绕过
作者: king22649   2019-04-25 01:19:00
我只会给一个条件 活下去
作者: tttttttiger (老虎五只)   2019-04-25 10:53:00
2是什么鬼东西.............
作者: holmes006 (zerglooky)   2019-04-25 17:50:00
1.不可伤害人类2.不伤到人的情况下要帮人类3.不违反前两条下要保护自己
作者: qswitch (燕子)   2019-04-25 23:23:00
定这浪费时间
作者: aska13 (闲云野鹤)   2019-04-28 07:34:00
中国会出,具有中国特色的普世价值的ai

Links booklink

Contact Us: admin [ a t ] ucptt.com