• 电子产品世界网
  • 关于我们|
  • 网站合作|
  • 联系我们
  • 主页 > 行业 > 正文

    “妙鸭”之后 AI 声音克隆网站来了,网友们却坐不住了

    2023-08-03 19:11:13  |  来源:现代快报+  |

    继 AI 拍照写真软件 " 妙鸭相机 " 一夜爆红后,一个基于 AI 技术克隆声音的网站 MyVocal.AI 又火了一把。这款声称可免费克隆声音的网站,不但可以克隆声音,还可以利用克隆的声音输出音乐和流利口播。虽然有不少年轻人玩起来了,但更多的网友表达了担忧,担心这会给诈骗分子提供便利。


    (资料图片)

    免费克隆你的声音,并输出音乐和流利口播

    只需花费 9.9 元,上传二十几张照片,就能获取一套人工智能生成的写真集。日前," 妙鸭相机 " 成为我国生成式人工智能领域的一个爆款应用。刷屏的同时,妙鸭也刷出了用户隐私保护、消费者权益保护等 " 暗雷 "。

    △ MyVocal.AI 网站

    人们对于 " 妙鸭相机 " 的大讨论尚未结束,一个基于 AI 技术克隆声音的网站 MyVocal.AI 又乘着 AI 的东风小火了一把。这个克隆声音的网站有多 " 神奇 "?可以在这里克隆你的声音后生成歌曲、口播语音。此外,让它得到广大网友 " 安利 " 的原因还在于,目前这个网站是可以免费使用的。

    △ 各种语音模板

    8 月 3 日,现代快报记者登录该网站,进入后显示有 25 个声音样本等待采集,依次点击声音样本,朗读样本中的提示语句,将 25 个样本全部采集完成,就可以进行声音克隆。在声音克隆完成后,网友还可以前往各个模块,生成歌曲和口播语音。方法也很简单,选择自己想唱的歌曲,进入后点击 " 同步我的声音 ",即可将原歌曲一键变为由你演唱的作品。

    免费玩家每月可享受 2000 个 TTS(文字转语音),每个 TTS 要在 500 个字符以内。如果是人民币玩家,则可以享受到更广范围的服务。例如每月 10 元的标准玩家,每月可以享受 50000 个 TTS,每个 TTS 可扩大至 1000 个字符。每月 30 元的流行玩家,则每月享受 120000 个 TTS,每个 TTS 可扩大至 1500 个字符。

    " 三无 " 网站让网友质疑:自己的声音是否被随意采集使用

    这个克隆声音的网站吸引了很多网友 " 尝鲜 " 使用,但在使用过程中,一些细心的网友注意到,这个克隆声音的网站,是个名副其实的 " 三无 " 网站。这个网站无备案号、无网络经营执照、无审核管理方,甚至网站上连运营方的名称和联系方式都没有。网友们纷纷质疑,一个 " 三无 " 网站如何保证声音采集后的安全性?自己的声音会不会被不法分子用作诈骗?

    今年 5 月,一个名为 "AI 孙燕姿 " 的虚拟歌手在视频平台上火啦。这个虚拟歌手用孙燕姿的声音翻唱了周杰伦、赵雷、郭顶等多名歌手的经典歌曲,让网友们惊叹不已。随着 AI 模拟人声技术被广泛使用,在这个过程中,AI 技术也被有心之人利用,甚至做出违法的事。

    今年 6 月,江苏警方接到一工厂员工报警称,其同事可能遭遇诈骗。民警赶到现场时,被骗女子情绪激动,不愿配合调查。民警一直坚持耐心劝导,终于在女子与骗子通话近 3 个小时后将其拦下。挂断骗子来电后,女子的哥哥就打来电话询问是否要向其借钱。民警立刻识破这是一种利用 AI 技术进行诈骗的新方式,骗子通过 AI 合成声音,甚至影像,向受害人亲友借钱。同时在通话过程中,骗子还盗取了女子的身份进行网贷。最终,民警联系网贷平台中断放款,成功为女子挽回 5 万元损失。

    律师建议:应尽快出台详细法律法规,对 AI 拟声进行监管

    人工智能作为近几年兴起的领域,竞争激烈,不少企业前赴后继,想要在这个领域抢占先机,分一杯羹,这也导致行业中鱼龙混杂,存在着对用户隐私和消费者权益的潜在隐患。江苏漫修律师事务所律师衡晓春建议,国家应尽快出台详细的法律法规,对其进行约束和规范。

    " 目前 AI 拟声在法律层面,尚未出台明确的规定。" 衡晓春表示,2023 年 5 月 23 日,国家互联网信息办公室 2023 年第 12 次室务会会议审议通过《生成式人工智能服务管理暂行办法》(以下简称 " 办法 "),办法中提到生成式人工智能,是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。值得注意的是,办法中还明确,对于生成式人工智能产品,提供者应当对生成的图片、视频等内容进行标识。

    " 但是对 AI 拟声该如何保护,办法中却没有明确提及。" 衡晓春解释,办法只是笼统的规定,当发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密,或者不符合本办法要求时,应当采取措施,停止生成,防止危害持续。衡晓春建议," 在未来,还需要对不同主体进行更加明晰的责任认定,最好细化到对于用户声音的采集和 AI 拟声内容生成、发布的每一个阶段。"

    现代快报 + 记者 季雨

    (校对 胡涛)

    关键词:

    上一篇:女子一觉醒来“面瘫”了!夏天千万别长时间干这事…   下一篇:最后一页