https://indsr.org.tw/Content/Upload/files/biweekly/29/3_TsungHanWu.pdf
欧盟公布草案禁止AI用于社会评等
国防安全研究院 吴宗翰 20210528
壹、新闻重点
欧盟执委会（European Commission）在2021年4月21日提出了《人工智能统一管理规则的
立法草案》（Proposal for a Regulation Laying Down Harmonised Rules on
Artificial Intelligence），简称为《人工智能法》（Artificial Intelligence Act）
草案，目的在于打造欧洲成为“可信赖的人工智能”的全球中心。它不仅是欧盟同时也是
全球至今第一部规范人工智能的成文法规，是迄今为止在政府层次监管人工智能应用涉及
范围最广的行动。执委会指出，法案将依据人工智能的风险高低分类，禁止“不可接受的
风险”人工智能系统，严格控管“高风险”系统，对于“有限风险”与“最小风险”者也
有各自程度不一的限制；对违反者将处以巨额罚款。透过法律框架的明确化，执委会希望
同时能促进欧盟对人工智能的投资和创新。尽管草案后续还需要经过欧洲议会与27个会员
国的批准才能成文，过程可能达数年，但该案被提出所显示的意涵以及被通过后所造成的
影响值得研议。
贰、安全意涵
一、欧盟价值观拒绝社会评等系统
自2018年起，欧盟即积极摸索它在未来数位时代中应当扮演的全球角色，人工智能一直是
其关切重点。历年来，欧盟已经先后发布《欧洲人工智能战略》（Artificial
Intelligence for Europe，2018）、《可信赖的人工智能伦理准则》（Ethics
Guidelines for Trustworthy AI，2019）、《人工智能白皮书》（White Paper on
Artificial Intelligence，2020）等，揭橥从确立何谓欧洲价值到实现其价值观的路径过
程。此次提出《人工智能法》草案，可视为该相关行动的最新成果。
《人工智能法》草案承袭过去文件中一贯强调的“信任”（trust）精神，主张促进使用者
对人工智能产品与技术的信任，而后者也被要求保证使用者免于安全以及基本权利的损害
才得以发展。草案亦同时在“以风险为基础”的监管原则上更进一步具体划分四等级并分
别给予例证。其中，在被视为对人们安全、生计与权利会造成明显威胁的“不可接受的风
险”类别中，法案明确指出禁止由政府实行“社会评等（social scoring）系统”。法案
亦指出禁止“实时远端生物辨识系统”（real-time remote biometric identification
systems）在公共场合被用于执法目的，但可以在特定目的下，事先取得司法机关或独立行
政授权或事后追认，例如寻找犯罪受害者、失踪儿童、防止具体、实质且紧迫的恐怖攻击
等。草案针对特定用途的分类，可以说是为欧盟会员国政府层次的监管、企业产品技术发
展以及使用者提供指引。禁止“社会评等”与“实时远端生物辨识系统”更是为过去数年
来，欧盟内部针对警察部门是否可以部署人脸辨识系统（facial recognition system）的
争论定调。
二、欧盟寄托法案推动欧洲模式
欧盟一直企图在所谓中、美人工智能发展模式外另辟道路，更企图借由欧洲的软硬综合实
力引领未来的技术走向。3中国虽然近年来针对人工智能的监管问题多有讨论，并陆续制订
算法的管理架构、隐私权保护法规、更推层出新政策白皮书，但创新优先的“经济竞争
”思维，始终压过基于伦理与道德为基础的管制声浪。由于人工智能发展涉及国家能力的
战略目标以及庞大的商业利益，更实际上被用于加强政府监管社会，中国政府至今仍采取
国家中心主导的大型投资计划方式，国内显现的主流意见也多是偏向持续大力发展技术，
再视情况控管。
另一方面，监管思维在美国目前似有些混沌不明。尽管已经订立管理架构，近来参众议院
也针对“反垄断”等议题分别要求各家科技巨头出席听证会，但相比欧盟的进展仍属初步
。事实上，美国的状况还同时需要考量到美国企业与科技能力目前仍执世界该领域之牛耳
，并大量运用于商业，因此自我侷限发展显然不符合自身利益。尤其，意识到中国等后起
之秀的竞争压力以及美中科技战影响，美国在政府层次似更愿意与企业合作，采取鼓励投
资与维持优势等路线。
相比中美，欧盟试图平衡监管与创新，但它采取更高标准的作法实引起有关分析认为它可
能拖累欧洲的科技发展。自从《一般资料保护规范》（General Data Protection
Regulation,GDPR）于2018年施行以来，欧盟即力行要求与欧盟公民有数据来往的所有主体
遵守欧盟规范。这种思维同样展现在《人工智能法》上，欧盟希望在不损害欧洲价值观或
基本权利下与中美进行竞争；该法案一旦通过，未来也会要求其他国家比照办理。有关论
调未来会否成真只能再待分析。
参、趋势研判
一、人工智能委员会将成为欧盟科技监管的重要指标
根据《人工智能法》草案规定，欧盟未来将成立一个由各会员国监管机关的高层以及欧盟
资料保护机关（European Data Protection Supervisor，EDPS）组成的欧洲人工智能委员
会（European Artificial Intelligence Board）。委员会举行会面时，可邀请其他国家
的代表参与共同商讨涉身事项，也可以基于需求而邀请外部技术专家或观察者，包括来自
欧盟内部与外部其他单位人员与会；决议规则采简单多数决制。根据草案的设计，委员会
一方面将担任该法的监理机构，一方面也将负责提供欧盟执委会有关建言，更同时会扮演
协调执委会与各国监管机构的角色，以利人工智能法案的发展与运作。委员会的召开举行
、行政事务与研究事务方面的支持都将由执委会决定。
有鉴于这样的宗旨以及行政结构，研判委员会将成为执委会与各欧盟会员国在人工智能议
题方面的权力角力与意见交换场域，并同时能够为决定事项提供支持的技术理由。预料一
旦法案成文通过，人工智能委员会在实际运作上将成为欧盟法院（Court of the Justice
of the European Union）与各国数据保护委员会之外的另一个重要指标。
二、规范人工智能用于自主武器系统是下一波重点
《人工智能法》在第2条第3款表明该法排除适用于军事用途，因而避开了有关人工智能与
自主武器系统的争论。然而，人工智能发展至今，有关自主武器的研究与应用早已在国际
社会热烈讨论，可能将会是下一波规范重点。
就现况来看，主要的人工智能科技大国包括中、美均在国际竞争的脉络下对发展自主武器
表现出正面态度，俄罗斯更是对发展相关武器不遗余力。整体趋势越显激烈。相较之下，
欧盟仍秉持其伦理标准平衡武器科技研发。欧洲议会于2021年1月20日通过《人工智能军事
及非军事用途准则》（Guidelinesfor Military and Non-military Use of Artificial
Intelligence），主张欧盟应遵从“以人为本”（human-centred）的原则，为人类及社会
共同利益服务；对人工智能用于军事用途订立规范，强调涉及国防相关的人工智能系统须
具备“有意义的人为控制”（meaningful human control）。6此《准则》核心精神实质上
与《人工智能法》精神相通。可以预料，欧盟未来将秉持同类原则进一步对军事行动制订
出更具体的规范，但此举可能在北约架构中与其他部分非欧盟的会员国意见相左。进而言
之，欧盟如欲在国际法层次推动相关主张亦有阻碍。