[新闻] AI诈骗 深伪换脸冒充亲友 视像通话骗钱

楼主: petestar (酥酥麻麻。小派皮)   2024-04-01 17:50:30
AI诈骗 深伪换脸冒充亲友 视像通话骗取百万元
https://www.epochtimes.com/b5/23/11/7/n14111173.htm
【大纪元2023年11月07日讯】(大纪元记者张瑛瑜香港报导)香港警方8月瓦解一个犯罪
集团,不法分子瞒过金融机构的人脸办析系统,利用人工智能换脸程式冒认已报失身分证
的市民,成功骗取7万元港币贷款。在科技发展下,利用AI影像和声音的深度伪造(
Deepfake)技术行骗变得愈来愈容易,不法分子假冒“亲友”进行电话诈骗也越来越猖獗

如日本设计师Hirokazu Yokohara的作品是通过生成式AI 模型“Stable Diffusion”生成
的(▶点击这里看视频),40岁大叔的容貌经AI运算,变成美少女易如反掌,难以找到破
绽。
除了可以轻易将人改头换面之外,骗徒更可利用相关技术模仿任何人的样貌、声音行骗。
不少香港市民近期接连收到陌生人打来的Whatsapp的视像通话(Video call)邀请,综合
网民反映,电话号码字头显示这些电话来自中国大陆、美国、英国、印尼等地,不过大部
分人都不敢接听。有意见分析,一旦接通,骗徒便会取得用户的容貌和声音,可以透过上
述的AI技术,合成受害人的影像,再用以诈骗其他联络人。
应用深度伪造技术的门槛不断降低,图片、影片移花接木的仿真度愈来愈高,网上随处可
见相关的软件、手机应用程式等,犯罪成本因此大大减低。以下列出近期在大陆发生的数
宗案例。
盗取影片中肖像假冒朋友 以视像通话诈骗钱财
浙江温州市公安局5月称,陈先生收到身处国外的好友“阿诚”发来的私信,在添加对方
的微信后,对方表示自己最近准备回国,不过购买机票时遇到困难,已经付出8,000元(
人民币,下同)订金,但受到国际漫游限制,联络不上国内航空公司的经理,希望将剩余
的钱转给陈先生,请他帮忙联络经理付款。
陈先生觉得此人的身分可疑,但对方随后又打来视像电话,“阿诚”跟陈先生挥手打招呼
,显得亲切,但没多久,对方称国外网络很不畅顺就挂断电话了。陈先生打消了心中的顾
虑,并在“阿诚”的指导下加了“航空公司经理”的微信,为“阿诚”支付4.9万元。经
过当地警方核实,骗徒用AI换脸技术,利用阿诚社交平台上先前发布的影片,截取脸部图
像并“换脸”,从而诈骗陈先生。
今年5月8日,内蒙古包头市公安局公布,福建省福州市一间科技公司法人代表郭先生4月
20日收到微信“好友”的视频通话称,他的朋友在外地投标,需要保证金及公司对公司帐
户过帐,想要借用郭先生公司的帐户过帐。
对方取得郭的银行卡号后,声称已转帐到郭的帐户,并发出银行转帐截图;但郭之前曾与
“好友”视频聊天,因此未核实是否到帐,就陆续转430万元给对方,后来才发现在短短
10分钟间就被骗了。
4月27日,安徽安庆的何先生遭遇同类事件。他的微信“好友”突然来了视像通话,何先
生见到对方正在一间会议室内,正当准备进一步询问时,“好友”挂断电话,并表示在会
议中有重要事情交代,需要加何先生的QQ沟通。
何先生当时因为对方“打了视像电话又是熟人”,没多想就转帐245万到对方指定的帐户
上,事后拨打对方电话才得知被骗。
当地警方后来追踪帐户,拘捕3名疑犯,扣押涉案手机26部,但只追回一百余万元。
另外,江苏常州警方亦发布过类似案例,小刘的中学同学“小韩”透过QQ联络小刘,先发
来一条语音称想借6,000元,声音很像小韩本人。后来“小韩”又同小刘视像通话。
汇款后,小刘愈想愈不对劲,认为视像通话中的“小韩”表情僵硬,于是打电话给小韩,
结果小韩的QQ帐号被盗了。
中港诈骗手法雷同
香港警方也曾经公布,今年3月,一名25岁男子在交友平台被诱裸聊,并下载对方指定的
手机直播App展开对话。该男子之后发现其肖像被移花接木到色情影片,对方要求他购买
一万元(港币)点数卡,所幸他力保不失并向警方报案。
扮俄国士兵卖货 30万网民追随
另一方面,有人窥准商机,在“换脸”后于网上推销货品。
今年最知名的案例,莫过于一个说普通话、网名为“保尔‧柯察铁”的男子,在抖音上骗
到了不少“小粉红”与俄粉。影片中的男子光头并留有络腮胡,用普通话称,自己是一名
在乌克兰前线作战的车臣特种部队的士兵,又在核电站前取景,称自己在乌克兰哈尔科夫
的核电站,后来被揭露那是河南洛阳的一家发电厂。网友发现,他的IP地址在中国河南,
并非他所称的乌克兰前线。
影片中的“保尔‧柯察铁”带有河南口音,其IP位址显示为中国河南,破绽处处,但他仍
然在两个月左右就吸引三十多万粉丝。他并在自己的网店卖俄罗斯的伏特加酒、蜂蜜、奶
粉等货品。他最终被发现假冒身分,遭到抖音封锁。
骗徒盗用知名艺人的肖像直播带货
有骗徒更加肆无忌惮,盗用包括杨幂、刘亦菲、迪丽热巴、Angelababy等知名艺人的肖像
,用AI实时换脸技术在大陆各大直播间带货。
据提供“换脸软件”的网站介绍,使用者自己从零开始训练模型,如果24小时挂机不停地
训练模型,经过半个月到一个月的时间,就能达到合成影片的效果。◇
责任编辑:陈玟绮#

Links booklink

Contact Us: admin [ a t ] ucptt.com