“妙鸭”之后AI声音克隆网站来了,网友们却坐不住了

继AI拍照写真软件妙鸭相机一夜爆红后,一个基于AI技术克隆声音的网站MyVocal.AI又火了一把。这款声称可免费克隆声音的网站,不但可以克隆声音,还可以利用克隆的声音输出音乐和流利口播。虽然有不少年轻人玩起来了,但更多的网友表达了担忧,担心这会给诈骗分子提供便利。

免费克隆你的声音,并输出音乐和流利口播


(资料图片仅供参考)

只需花费9.9元,上传二十几张照片,就能获取一套人工智能生成的写真集。日前,妙鸭相机成为我国生成式人工智能领域的一个爆款应用。刷屏的同时,妙鸭也刷出了用户隐私保护、消费者权益保护等暗雷。

△MyVocal.AI网站

人们对于妙鸭相机的大讨论尚未结束,一个基于AI技术克隆声音的网站MyVocal.AI又乘着AI的东风小火了一把。这个克隆声音的网站有多神奇?可以在这里克隆你的声音后生成歌曲、口播语音。此外,让它得到广大网友安利的原因还在于,目前这个网站是可以免费使用的。

△各种语音模板

8月3日,现代快报记者登录该网站,进入后显示有25个声音样本等待采集,依次点击声音样本,朗读样本中的提示语句,将25个样本全部采集完成,就可以进行声音克隆。在声音克隆完成后,网友还可以前往各个模块,生成歌曲和口播语音。方法也很简单,选择自己想唱的歌曲,进入后点击同步我的声音,即可将原歌曲一键变为由你演唱的作品。

免费玩家每月可享受2000个TTS(文字转语音),每个TTS要在500个字符以内。如果是人民币玩家,则可以享受到更广范围的服务。例如每月10元的标准玩家,每月可以享受50000个TTS,每个TTS可扩大至1000个字符。每月30元的流行玩家,则每月享受120000个TTS,每个TTS可扩大至1500个字符。

三无网站让网友质疑:自己的声音是否被随意采集使用

这个克隆声音的网站吸引了很多网友尝鲜使用,但在使用过程中,一些细心的网友注意到,这个克隆声音的网站,是个名副其实的三无网站。这个网站无备案号、无网络经营执照、无审核管理方,甚至网站上连运营方的名称和联系方式都没有。网友们纷纷质疑,一个三无网站如何保证声音采集后的安全性?自己的声音会不会被不法分子用作诈骗?

今年5月,一个名为AI孙燕姿的虚拟歌手在视频平台上火啦。这个虚拟歌手用孙燕姿的声音翻唱了周杰伦、赵雷、郭顶等多名歌手的经典歌曲,让网友们惊叹不已。随着AI模拟人声技术被广泛使用,在这个过程中,AI技术也被有心之人利用,甚至做出违法的事。

今年6月,江苏警方接到一工厂员工报警称,其同事可能遭遇诈骗。民警赶到现场时,被骗女子情绪激动,不愿配合调查。民警一直坚持耐心劝导,终于在女子与骗子通话近3个小时后将其拦下。挂断骗子来电后,女子的哥哥就打来电话询问是否要向其借钱。民警立刻识破这是一种利用AI技术进行诈骗的新方式,骗子通过AI合成声音,甚至影像,向受害人亲友借钱。同时在通话过程中,骗子还盗取了女子的身份进行网贷。最终,民警联系网贷平台中断放款,成功为女子挽回5万元损失。

律师建议:应尽快出台详细法律法规,对AI拟声进行监管

人工智能作为近几年兴起的领域,竞争激烈,不少企业前赴后继,想要在这个领域抢占先机,分一杯羹,这也导致行业中鱼龙混杂,存在着对用户隐私和消费者权益的潜在隐患。江苏漫修律师事务所律师衡晓春建议,国家应尽快出台详细的法律法规,对其进行约束和规范。

目前AI拟声在法律层面,尚未出台明确的规定。衡晓春表示,2023年5月23日,国家互联网信息办公室2023年第12次室务会会议审议通过《生成式人工智能服务管理暂行办法》(以下简称办法),办法中提到生成式人工智能,是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。值得注意的是,办法中还明确,对于生成式人工智能产品,提供者应当对生成的图片、视频等内容进行标识。

但是对AI拟声该如何保护,办法中却没有明确提及。衡晓春解释,办法只是笼统的规定,当发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密,或者不符合本办法要求时,应当采取措施,停止生成,防止危害持续。衡晓春建议,在未来,还需要对不同主体进行更加明晰的责任认定,最好细化到对于用户声音的采集和AI拟声内容生成、发布的每一个阶段。

(来源:现代快报全媒体)

更多精彩资讯请在应用市场下载“极目新闻”客户端,未经授权请勿转载,欢迎提供新闻线索,一经采纳即付报酬。

关键词:

x 广告
x 广告
x 广告

Copyright   2015-2022 起点仓储网版权所有  备案号:皖ICP备2022009963号-12   联系邮箱: 39 60 29 14 2@qq.com