[新闻] Reddit用户发现CSAM检测中使用的苹果NeuralHash算法隐藏在iO

楼主: Lyeuiechang (誠誠小屁孩)   2021-08-19 15:38:34
1.原文连结:连结过长者请使用短网址。
https://www.cnbeta.com/articles/tech/1167959.htm
2.原文标题:标题须完整写出(否则依板规删除并水桶)。
Reddit用户发现CSAM检测中使用的苹果NeuralHash算法隐藏在iOS 14.3中
3.原文来源(媒体/作者):例:苹果日报/王大明(若无署名作者则不须)
cnBeta/cnBeta
4.原文内容:请刊登完整全文(否则依板规删除并水桶)。
2021年08月19日 07:48
据外媒AppleInsider报道,Reddit上的一个用户称,他发现了iOS 14.3中儿童性虐待材料
(CSAM)检测中使用的苹果NeuralHash算法的一个版本。苹果在发给Motherboard 的一份声
明中表示,在 iOS 14.3 中发现的 NeuralHash 版本并不是与 iOS 15 一起发布的最终版
本。
https://i.imgur.com/iLlT9m6.jpg
Reddit用户u/AsuharietYgvar说,NerualHash代码被发现隐藏在iOS 14.3中。该用户说,
他们已经对代码进行了逆向工程,并在Python中重建了一个工作模型,可以通过传递图像
进行测试。
该算法是在隐藏的API中发现的,NeuralHash的容器被称为MobileNetV3。有兴趣查看代码
的人可以在GitHub中找到。
这位Reddit用户声称这一定是正确的算法,原因有二。首先,模型文件的前缀与苹果文档
中发现的相同,其次,代码的可验证部分与苹果对NeuralHash的描述工作相同。
利用这个工作的Python脚本,GitHub用户已经开始研究这个算法是如何工作的,以及它是
否可以被滥用。例如,一位名叫dxoigmn的用户发现,如果知道CSAM数据库中发现的结果
哈希值,人们可以创建一个产生相同哈希值的假图像。如果是真的,有人可以制造出类似
于任何东西的假图像,但产生所需的CSAM哈希值匹配。从理论上讲,一个用户可以将这些
图片发送给苹果用户,以试图触发该算法。
尽管有这些发现,这个版本的NerualHash所提供的所有信息可能并不代表最终版本。苹果
公司多年来一直在构建CSAM检测算法,因此可以认为存在一些版本的代码用于测试。如果
u/AsuharietYgvar发现的确实是CSAM检测算法的某个版本,它可能不是最终版本。
如果dxoigmn 建议的攻击向量是可能的,只需将其生成的图像发送给用户,就有几个故障
保护措施可以防止用户禁用 iCloud 帐户,并报告给执法部门。。有许多方法可以在一个
人的设备上获得图像,如电子邮件、AirDrop或iMessage,但用户必须手动添加照片到照
片库中。没有一个直接的攻击载体,不需要物理设备,或用户的iCloud凭证来直接向照片
应用程序注入图像。
苹果也有一个人工审查程序。攻击图像不是人类可以解析的东西,而是一个位域,而且显
然伪造的文件中不涉及 CSAM。
不是最终版本
Reddit用户声称他们发现了这些代码,但并不是ML专家。带有Python脚本的GitHub资源库
暂时可供公众检查。
目前还没有人发现iOS 15测试版中存在CSAM数据库或匹配算法。一旦它出现,有理由相信
一些用户将能够提取该算法进行测试和比较。
目前,用户可以探究这个潜在的NerualHash版本,并试图找到任何潜在的问题。
然而,这项工作可能被证明是没有结果的,因为这只是用于CSAM检测的复杂过程的一部分
,并没有考虑到凭证系统或服务器端发生的事情。
苹果还没有提供CSAM检测功能的确切发布时间表。
5.心得/评论:内容须超过繁体中文30字(不含标点符号)。
AppleInsider 原文:https://tinyurl.com/3cs8226w
r/apple 讨论串:https://redd.it/p6n0kg
r/MachineLearning 讨论串:https://redd.it/p6hsoh
这个事情一开始是由 Khaos Tian 发现隐藏在 iOS 14.3 的 API 里面,
Function 的 class 名字叫 "obfuscated"
https://github.com/KhaosT/nhcalc
后来就由 Asuhariet Ygvar 把 API dump 出来,
然后用反组译的方式还原 NerualHash 的神经网络模型
https://github.com/AsuharietYgvar/AppleNeuralHash2ONNX
值得注意的一点是,他发现因为浮点数精度在不同处理器上的差异,
在不同机器上 Hash 同一张照片出来的结果可能差好几个 bit。
https://i.imgur.com/r1iIM6v.png
然后在专案公开不久之后,就有人发现了两张不同照片生成相同的 Hash 值
https://github.com/AsuharietYgvar/AppleNeuralHash2ONNX/issues/1
https://i.imgur.com/sLhAxxL.png
https://i.imgur.com/SJpL413.png
不过让人最惊讶的还是 NerualHash 其实已经写在 iOS 14 了,
只不过目前没有证据显示苹果把 hash 的结果拿来干嘛
https://i.imgur.com/RoBqhwG.jpg
楼主: Lyeuiechang (誠誠小屁孩)   2021-12-04 23:42:00
[新闻]有狼师一直戳女学森(.)(.)而被家长吉上法院...
作者: Xhocer (以前也很快樂)   2021-12-04 23:44:00
) (
作者: xj654m3 (卢鱼)   2021-12-04 23:46:00
( Y )
作者: Xhocer (以前也很快樂)   2021-12-04 23:48:00
\|/
作者: xj654m3 (卢鱼)   2021-12-05 00:47:00
(╮⊙▽⊙)ノ|||
楼主: Lyeuiechang (誠誠小屁孩)   2021-12-05 01:17:00
/|\╰╮o( ̄▽ ̄///)<

Links booklink

Contact Us: admin [ a t ] ucptt.com