Re: [新闻] 苹果将侦测儿童色情影像 用户上传iCloud

楼主: CardLin (卡林)   2021-08-08 02:15:34
AI可以将图片分类,找出有问题的图片
具体做法有很多种,我们先简介目前效果最好的神经网络
首先会用数学模拟神经元的运算
简化来说每一层的网络输出(Output)就是输入(Input)乘上权重(Weight)再加上偏移(Bias)
Output = Input * Weight + Bias
而每个 Input 可以是一维、二维或三维的矩阵,Weight, Bias也是特定大小的矩阵
所以 Output 就会很像是脑袋里面神经网络的连结
https://imgur.com/fBbB0HA
所以当我有很多层的时候,就会像是小型脑袋
https://imgur.com/4QEmiLF
而这个小型的脑袋就可以透过已标注资料进行训练
假设 Apple 已经人工标定好 1000 张照片,其中 800 张正常,另 200 张异常
我们就可以透过训练这个小型脑袋,让他逐渐地学会如何分辨正常与异常
学习过程会计算最终的输出(FinalOutput)与真正的答案(GroundTruth)的差异(Loss)
透过这个 Loss 就可以透过数学的运算来微调需要修改的权重(Weight)与偏移(Bias)
最后训练完的神经网络的最终输出(FinalOutput)就会是以下例子:
一般照片:正常:0.99 (99%) 异常:0.01 (1%)
异常照片:正常:0.22 (22%) 异常:0.78 (78%)
通常类神经网络并不会用原始分辨率进行训练
需要降维,例如先缩小到 224*224 的大小再进行训练
而经过训练后的神经网络就能很好地将图片进行分类
其实这种类似的做法已经有在手机相机软件上应用: 场景智慧辨识、眨眼侦测...等
如果有足够多的人工标注资料进行训练,已经可以轻松达到 99% 以上的成功率
如果设计够好,一台服务器一秒要处理 100 张照片应该也没问题
毕竟在手机端的运算能力也都可以即时辨识场景
不在手机端分析照片的原因可能是避免增加耗电
Apple会对照片进行分析,主要当然是希望降低虐童犯罪
我刚刚 Google 了一下查到 "美国一年有高达76万5000名儿童失踪"
我不知道数据是否准确,但这些失踪儿童可能有大部分都跟虐童犯罪有关
希望 Google 也能跟进,让儿童更安全!

Links booklink

Contact Us: admin [ a t ] ucptt.com