[情报] Reddit用户发现CSAM检测中使用的苹果NeuralHash算法隐藏在iO

楼主: Lyeuiechang (誠誠小屁孩)   2021-08-19 15:43:51
【情报来源】
cnBeta/cnBeta
原网址:https://www.cnbeta.com/articles/tech/1167959.htm
(原始未删减的网址)
【情报内容】
Reddit用户发现CSAM检测中使用的苹果NeuralHash算法隐藏在iOS 14.3中
021年08月19日 07:48
据外媒AppleInsider报道,Reddit上的一个用户称,他发现了iOS 14.3中儿童性虐待材料
(CSAM)检测中使用的苹果NeuralHash算法的一个版本。苹果在发给Motherboard 的一份声
明中表示,在 iOS 14.3 中发现的 NeuralHash 版本并不是与 iOS 15 一起发布的最终版
本。
https://i.imgur.com/iLlT9m6.jpg
Reddit用户u/AsuharietYgvar说,NerualHash代码被发现隐藏在iOS 14.3中。该用户说,
他们已经对代码进行了逆向工程,并在Python中重建了一个工作模型,可以通过传递图像
进行测试。
该算法是在隐藏的API中发现的,NeuralHash的容器被称为MobileNetV3。有兴趣查看代码
的人可以在GitHub中找到。
这位Reddit用户声称这一定是正确的算法,原因有二。首先,模型文件的前缀与苹果文档
中发现的相同,其次,代码的可验证部分与苹果对NeuralHash的描述工作相同。
利用这个工作的Python脚本,GitHub用户已经开始研究这个算法是如何工作的,以及它是
否可以被滥用。例如,一位名叫dxoigmn的用户发现,如果知道CSAM数据库中发现的结果
哈希值,人们可以创建一个产生相同哈希值的假图像。如果是真的,有人可以制造出类似
于任何东西的假图像,但产生所需的CSAM哈希值匹配。从理论上讲,一个用户可以将这些
图片发送给苹果用户,以试图触发该算法。
尽管有这些发现,这个版本的NerualHash所提供的所有信息可能并不代表最终版本。苹果
公司多年来一直在构建CSAM检测算法,因此可以认为存在一些版本的代码用于测试。如果
u/AsuharietYgvar发现的确实是CSAM检测算法的某个版本,它可能不是最终版本。
如果dxoigmn 建议的攻击向量是可能的,只需将其生成的图像发送给用户,就有几个故障
保护措施可以防止用户禁用 iCloud 帐户,并报告给执法部门。。有许多方法可以在一个
人的设备上获得图像,如电子邮件、AirDrop或iMessage,但用户必须手动添加照片到照
片库中。没有一个直接的攻击载体,不需要物理设备,或用户的iCloud凭证来直接向照片
应用程序注入图像。
苹果也有一个人工审查程序。攻击图像不是人类可以解析的东西,而是一个位域,而且显
然伪造的文件中不涉及 CSAM。
不是最终版本
Reddit用户声称他们发现了这些代码,但并不是ML专家。带有Python脚本的GitHub资源库
暂时可供公众检查。
目前还没有人发现iOS 15测试版中存在CSAM数据库或匹配算法。一旦它出现,有理由相信
一些用户将能够提取该算法进行测试和比较。
目前,用户可以探究这个潜在的NerualHash版本,并试图找到任何潜在的问题。
然而,这项工作可能被证明是没有结果的,因为这只是用于CSAM检测的复杂过程的一部分
,并没有考虑到凭证系统或服务器端发生的事情。
苹果还没有提供CSAM检测功能的确切发布时间表。
楼主: Lyeuiechang (誠誠小屁孩)   2021-12-04 23:42:00
[新闻]有狼师一直戳女学森(.)(.)而被家长吉上法院...
作者: Xhocer (以前也很快樂)   2021-12-04 23:44:00
) (
作者: xj654m3 (卢鱼)   2021-12-04 23:46:00
( Y )
作者: Xhocer (以前也很快樂)   2021-12-04 23:48:00
\|/
作者: xj654m3 (卢鱼)   2021-12-05 00:47:00
(╮⊙▽⊙)ノ|||
楼主: Lyeuiechang (誠誠小屁孩)   2021-12-05 01:17:00
/|\╰╮o( ̄▽ ̄///)<
作者: mcharuko (象)   2021-08-19 20:37:00
这其实很糟糕 这表示9月的iPhone13已经施行了如果手上有私人图片的人 不管是不是child abuse都势必会被检查,甚至可能已经在现行的14.3以后版本遭检我管你是不是要检查child abuse,只要有照片疑似你就可以启动人工检视那万一是我跟女友的亲密照片呢?万一身为apple员工的人看到某明星性爱照,跑出去爆料呢?仅依靠苹果自己声称的“安全不误判”根本就不可信再讲得远一点,像长泽茉里奈那种实际成年但一脸未成年的你怎么人工判断这办法立意的出发点虽然好,但根本就是个烂主意
作者: yahappy4u (yo ya ha)   2021-08-20 01:00:00
对啊这种隐私觉得很不ok
作者: xdccsid (XDCC)   2021-08-20 05:06:00
真的是鬼扯,原来14就已经有了,我被骗了啊哈哈
作者: savorwu (マスター)   2021-08-21 09:22:00
身为果粉,还是得批评这个,最好不要上线
作者: nimab (你妈比赞!)   2021-08-22 06:57:00
苹果每次都暗着来 当用户好欺负?

Links booklink

Contact Us: admin [ a t ] ucptt.com