1.原文连结:
https://goo.gl/G5QtH1
2.原文内容:
我是亚马逊的员工,我们不应向军方出售人脸识别技术。”这么立场坚定的一句表态,出
自于在Medium上发布的一篇亚马逊(Amazon)员工匿名公开信。
这整起事件要先从以“不做恶(Don't be evil)”作为信念的Google说起,今年(2018
)10月,Google宣布退出一个叫做《联合企业防御基础设施》(Joint Enterprise Defen
se Infrastructure,JEDI )的政府计画,计画的内容是让美国国防部把大量资料移转至
商业云端运作,总价值超过100亿美元,合约可能长达10年,之所以会退出,Google表示
是因为无法确定这项合作是否符合Google的AI标准。
由于与美国国防部的合作案,涉及到公民隐私问题,先前Google员工也多次反对与国防部
合作,而Google退出后,亚马逊也就成了接手的最佳人选。本周在旧金山举行的《连线》
(Wired)杂志 25 周年峰会上,亚马逊执行长贝佐斯(Jeff Bezos)说:“我们将继续
支持国防部,我认为我们应该这样做,”他认为:“公司高层的工作就是做出正确的决定
,即使它不受自家员工欢迎。”甚至认为:“如果大型科技公司打算退出国防部,这个国
家将陷入困境。”被认为是在暗酸Google。
不过这一切在亚马逊员工看来,完全跟亚马逊一直以来所倡导的企业价值大相迳庭。
https://i.imgur.com/ZGOcbLl.jpg
当新科技用于执法,隐私与个人自由可能被侵犯
最近在Medium上出现了一篇亚马逊员工的公开匿名信,文中提到几周前,有超过450位员
工写了一封信给执行长贝佐斯,希望公司能够停止贩售一款叫做“Rekognition”的软件
给警方,不过目前为止仍没有得到公司的官方回应。
人脸辨识软件Rekognition,是基于亚马逊的AWS图像识别和分析平台,可以提供物体、场
景、人脸辨识与分析,主打可以在机场、车站等人潮拥挤的公众场所准确地监控,最近正
积极向政府以及执法部门推销。
https://i.imgur.com/TXPzJ6K.jpg
今年七月,美国民权联盟(ACLU)最近做了一项测试,将国会议员照片与数据库内的嫌犯
照片进行比对,结果亚马逊的人脸辨识软件Rekognition,竟然将28名议员误认为嫌犯,
外界呼吁在执法中导入人脸辨识技术,必须有更严谨的讨论。人脸辨识系统还有一个很大
的争议,就是算法偏见,因为系统一开始使用大量的白人男性资料作为学习基础,因此
一直以来有色人种以及女性遭到系统误认的比例极高。在这次ACLU测试中,比对结果出错
的28位议员中,11人是有色人种,约占整体39%,过去ACLU也曾发信给贝佐斯强烈表达人
脸辨识系统偏见的疑虑。
新技术缺乏监管机制,无辜大众可能成为受害者
“当一家公司将新技术带进这个世界时,就有责任和义务衡量这项技术可能带来的后果,
我任职的公司亚马逊,正在允许美国各地的执法部门购买脸部识别软件 Rekognition,我
和其他员工要求这项业务立即停止。”
员工如此愤慨不是没有道理,亚马逊官方表示,脸部识别软件 Rekognition一次能够存储
和搜索数千万张人脸,让执法部门使用的同时,却没有相对应的监管机制,“从过去的经
验我们可以发现,因为缺乏监督机制,国家将手中的强大监视工具瞄准那些可能是无辜的
人,在美国已经导致有色人种、移民和那些正在行使美国宪法权利的人们遭受过度监控和
过度干扰。”
https://i.imgur.com/vGoeQXk.jpg
员工认为,当政府、执法单位大规模采用新科技办案时,忽略背后可能潜在的社会问题,
是相当不负责任的行为。“我们都有权在不受政府监控的情况下生活,像我们这样的公司
不应该去协助监控。”
“贝佐斯一定知道这些疑虑,”员工认为,贝佐斯在外面大肆谈论新科技可能被独裁者滥
用的问题,但在公司内部却希望员工静观其变,而非具体向员工解释亚马逊将如何采取行
动,来防止技术被滥用。
“亚马逊常常在谈论领导的价值,”员工说:“如果我们想作为产业的领导者,必须在民
众的利益与公司利润之间做出选择,我们可以把危险的监控系统卖给警方,或者为对的事
情挺身而出,然而我们永远做不到两者兼顾。”
3.心得/评论:
当初原本以为Google退出,亚马逊就稳了,看来也有变量了。