最近，模拟出来的孙燕姿和周杰伦等ai创作作品在网络上广受关注，并迅速激起网友们的热议。ai声音因其拟真性，不仅能复现知名歌手的作品，同时也引发了一系列伦理和法律问题，甚至被不法分子利用，成为了提升电信诈骗成功率的重要手段。
据科技日报报道，在电信诈骗中，骗子使用AI软件扫描语音记录并复制，其准确率高达99%。其语料数据提取自社交媒体的视频和其他上传音频中的片段，输入AI软件后，可以生成声音并说出不同短语或句子。根据国外学者的介绍，有一些模型和算法只需要1分钟甚至更短的时间就能生成一段相当高质量的克隆声音。如果利用更先进的人工智能模型和算法，产出的声音更难以让普通人分辨真假。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜
更令人担忧的是，当AI克隆声音、AI换脸与个人信息泄露等黑灰产全面合流，骗子不仅能通过合成的AI视频和语音形成电诈“组合拳”，还能通过已掌握的隐私信息、高度成熟的骗术剧本，生成深度定制化的对话文本，将电诈升级为难以防范、难以察觉、难以醒悟、无处可查的“平行世界”。
此外，将AI克隆音频用于创作歌手、歌曲、音乐等艺术领域，也是对版权领域的强烈挑战。二次创作品的产生可能会对原声作者构成侵权，同时该作品的版权归属也同样存在模糊难定的问题，究竟归于人还是AI。
正如历史上不断重复的过程那样，技术先行、制度随后，中间这段规范和秩序的空白期内，不仅存在常规的“野蛮生长”，暗面的不择手段，传统亦会被进步所打破并取代。
