[问卦] 大家不觉得AI语音克隆很恐怖吗?

楼主: seisman (Mckinsey)   2023-05-05 08:44:11
你对AI语音概念还停留在“注意看,这个男人太狠了!”吗?
最近鲁蛇我呢研究了一下AI语音的近况
发现很恐怖
已经出现“客制化”的AI语音平台供任何人使用
像是Murf.AI、Resemble AI、Speechify、Voice.AI
可提供AI语音克隆(AI Voice Cloning)
只要上传15~30分钟不等自己的声音 就可以训练出“自己的高质量声音库”
以下是Voice.AI模仿Elon Musk、Obama、Joe Biden等大人物声音
已经是无法辨别真假了
https://reurl.cc/6N6zdO
目前有6万多人使用
https://i.imgur.com/brbMYu4.png
而且这些平台每月订阅费其实都不贵
这东西不该开放吧 也不该商业化吧
不然有心人士拿到你的音档就可以拿去训练了
查了一下 已经有超多诈骗犯罪出现
诈骗犯训练出受害者声音去勒索受害者家人 受害者家人完全不疑有假进而汇钱
诈骗犯训练出公司高管声音叫供应商转帐 金额高达数十万美金
现在别说台湾了 连美国也没有任何一项声音造假的法律可管
有挂吗?

Links booklink

Contact Us: admin [ a t ] ucptt.com