原文
https://tinyurl.com/y8pf5m9f
翻译
http://mlkj24.pixnet.net/blog/post/32359357
Economist May 31st 2018
他们正看着你。你走路上班时，闭路摄影机拍着你，现在更可以认出你的脸。开车出城时
，车牌辨识摄影机也记录着你的旅程。你口袋里的智慧型手机，持续留下数位足迹。私底
下在家里上网，你的动作被记录跟分析。分析出来的结果，可以建造出一个你每分钟的生
活纪录。
在一个类似中国的独裁政府控制下，数位监控把一个原本是恶劣的警察国家，变成一个令
人恐惧、无所不知的警察国家。尤其是在西部的新疆，中国利用人工智能及大规模监控，
来建造一个二十一世纪的圆形监狱(panopticon)，并全面控制数百万名维吾尔人(土耳其
裔的穆斯林少数民族)。在西方民主国家中，警察及情报单位也用同样的监控工具来解决
、减少犯罪及预防恐怖主义。这样的结果很有成效，但也很令人担心。
在自由与压迫中间，有一个制度存在着。这个制度可以寻求公民的同意、保持对政府的检
查与平衡。当需要监控时，有规范来限制那些收集、使用资讯的人。但资讯如此充足，又
如此容易取得，这样的保护系统正被侵蚀。隐私规范设计之初，是用在室内电话、邮件及
档案柜上的，在这个智慧型手机、电子邮件及云端运算的年代，亟需马上加强。
我有许多眼
I spy with my many eyes
1989年东德垮台时，人们对于东德秘密警察史塔西(Stasi)所能取得的资讯、以及为了取
得这些资讯所布的绵密网络感到诧异。自那时起，数位革命得以用前所未有的规模收集和
分析数据，让监控的形式完全转变。智慧型手机、网页浏览器及传感器提供了大量的资讯
，让政府能收集或窃取；数据中心则可以无限地储存这些资讯。人工智能则让政府能从资
讯大海中捞针，并进行组合。科技曾看起来是自由之友，让独裁政权中的异议人士能更容
易地进行沟通、组织。但现在看起来更像欧威尔式，让专制者比史塔西更能窥视人民。
新疆是恶梦式的极端情况，而新科技则让这个情境成真：一个种族歧视的警察国家。中国
统治者担心反叛及分离主义，用数位科技加强了极权主义控制 — 包含大规模逮捕维吾尔
人来再教育。新疆的部分地区，每一到两百公尺就有一台闭路摄影机。这些摄影机记录了
所有开车司机的脸及车牌。维吾尔人的手机，必须装上政府发放的监视软件。他们的身分
证上的资料，不只姓名、性别跟职业，还有亲戚的细节、指纹、血型、DNA资料、拘捕纪
录跟“可靠程度”。这一切都整合到人工智能系统“一体化联合作战平台 (IJOP)”上，
来生成拘捕的嫌疑名单。
即使横跨中国大多数地区，新疆的极权主义可能也很难复制。压制易辨别的少数民族，比
确保对全体人民拥有绝对的控制权更容易。但中国式的监控元素，一定也会启发其他极权
政府 — 从俄国到卢旺达到土耳其 — 中国会很乐意卖出那些必要的硬件。自由国家有义
务揭露、惩罚这种压迫性硬件的出口，然而他们的劝说工具极为有限。
西方国家也必须回头看看自己。现在的日子中，警察能接触的个人资讯量可媲美史塔西。
官员可以设置假的基地台，来追踪人民的行踪与联系。从车牌取得的资料，可以追踪一个
人数年的行动。有一些美国城市拥有类似一体化联合作战平台的预警程式，能从过去的犯
罪行为中预测未来的可能。拥有这些，可以监视可能的攻击者，但被滥用的可能性非常高
。已知有数百位美国警察用这些机密资料来挖掘记者、前女友及他人见不得人的资料。
注意警探
Watching the detectives
要怎么在自由跟安全中取得平衡?首先，数位世界跟真实世界一样，应有空间让守法的人
享有隐私。自由民主国家的公民，不希望在没有正当理由的情况下被搜身，或是家园在没
有逮捕令的情况下被搜查。同样地，一支在某个人口袋里面的手机，受到的待遇应该跟他
家的档案柜一样。就像档案柜可以上锁，加密的行为也不该被缩减。而公民资料保存时间
的上限、以及谁能接触这些资料、以及若遭滥用该怎么惩罚，是优先级的第二位。2006
年时，欧盟颁布的一项指令，要求手机厂商保留客人资料两年。此项法律在2014年时，遭
到欧盟法院判定无效。滥用警方资料，应以刑事犯罪处理，而不是集体道歉就能平息的“
错误”。
第三个优先事项，是监控人工智能的使用。预警系统并不是完美的，比较能找到窃盗案的
模式，但比如说要找到谋杀案的模式，就没那么行。脸部辨识可能会产生许多“误报”的
结果。人工智能是用偏差数据((biased data)形成的，很可能会复制这些偏差 — 比如说
，逮捕模式显示黑人数量不成比例地高。一些判刑的算法，可能会判断黑人被告为比白
人被告有更高的再犯率。这样的算法必须公开、受到监督，而不是以贸易秘密之名保护
著。
警觉性及透明性必须成为箴言。这两件事也许可以提高科技的效果：警察例行佩戴摄影机
，似乎可以减少了大众投诉。咨询也很重要；最近加州提出一项法案，要求警方要揭露他
们所有的监控设备，公布取得的数据及其用途，在采买更多设备前必须要加入公众意见。
如果这会造成进程减缓，那就这样吧。警察正确地看守民众、保护民众安全。民众则也必
须看着警察，来保持自身自由。