父亲提供儿子裸照给医生诊断病情，遭 Google 误判为罪犯
2022/08/22 Jocelyn
去年 2 月诊所因为疫情休诊，一位父亲 Mark 将儿子腹股沟照片传给医生诊断，Google
帐号遭照片审查机制停用。
根据《纽约时报》[1]报导，去年 2 月一位父亲 Mark 注意到儿子私密处发炎，但由于疫情
下诊所仍休诊，因此在护士的建议下， Mark 使用安卓（Android）手机拍下儿子腹股沟
的照片，将照片传给医生后再进行视讯诊断。在 Mark 拍下照片的两天后，即收到
Google 的通知，告诉他由于帐号出现疑似非法的有害内容，因此帐号已遭 Google 锁定
。
Mark 无法使用 email、通讯录、照片，且因为他使用的是 Google 电信服务 Google Fi
，因此连手机号码都遭停用，他也曾试图申诉 Google 的决定，但都被 Google 拒绝。
2021 年 12 月警察针对 Mark 的事件展开调查，证实这次事件与犯罪无关。
像其他网络平台 Facebook、Twitter 等，Google 对于照片的审查是透过微软的
PhotoDNA 图片辨识比对技术，而这样的机制曾在 2012 年成功逮捕一位藉 Gmail 传送儿
童色情照片的性犯罪者。
2018 年 Google 推出图片审查的 AI 工具，透过 AI 来辨识从没见过的儿童性虐资料（
CSAM），并以最快的速度下架照片并通报。Google 发言人指出，借由机器学习，并建立
杂凑值（hash value，又称数位指纹），来与已知的 CSAM 内容相比对。AI 发现不适当
的内容后，Google 将通报相关组织。另外发言人也说 Google 只会在用户对照片采取动
作时，加以审查，包括将照片复制到 Google 相簿中等行为。
而对于误举报的事件，Google 给出的回应则是，公司遵照美国法律并运用杂凑值和 AI
来判定哪些内容是 CSAM，另外 Google 也设有团队来检视遭举报的内容是否准确，且也
有咨询小儿科医生来辨识那些照片是用于医疗需求。
尽管借由照片审查来保护儿童的权益固然重要，但审查机制背后的隐私问题也受到质疑。
Apple在去年推出了保护儿童的计画（Child Safety Plan），Apple 会在用户上传照片
至 iCloud 前进行审查，方式与 Google 相似，如果杂凑值与已知的 CSAM 照片相符，则
会转由人工审查，来判定是否有需要锁定该帐号。
计画推出后提倡数位权益的非营利组织 The Electronic Frontier Foundation（EFF）指
出，这危害到了 iCloud 使用者的权益。Apple 也因此暂缓了计画，但随着 iOS 15.2 的
推出，Apple 让父母得以选择，是否在家庭共享计画的儿童帐号中加入照片审查机制，若
父母同意则小孩帐号的“讯息”App 将审查里面的照片是否有裸露元素，若有审查到
Apple 则会将照片模糊化，并提出警讯以及提供可以协助网络安全的资源。
而对于 Google 此次事件，EFF 的 Jon callas 认为这样审查功能是侵犯权益的，他表示
用户担心的就是帐号中的家庭相簿被审查后惹上麻烦。
在台湾的一位用户也发生类似于 Mark 的情况，他怀疑因自己的云端硬盘存放卫教文章所
需的儿童生殖器照片，而受到 Google 审查，进而造成帐号被无预警的停用。他也警告帐
号遭停用后不仅 email 和存在 Chrome 里的密码不能使用，而造成后续麻烦外，任何一
次性付费的 Google App 也需重新购买，甚至他的 Youtube Premium 帐号在被停用后仍
持续被扣款。
Google 的照片审查的确曾有效阻止了犯罪事件，但对于要将私密照片用于正当医疗用途
上的使用者，只要出现了审查错误，即会让用户的使用权益收到侵害，也容易让用户难以
再次信任公司所提供的服务。
[1] A Dad Took Photos of His Naked Toddler for the Doctor. Google Flagged Him as
a Criminal. https://is.gd/3CXkbS