语音克隆技术引发担忧openai 再次解释其文本转语音工具

语音克隆技术引发担忧openai-再次解释其文本转语音工具

“尽管我们尚未确定是否会全面实施这项技术，但确保全球民众理解其发展趋势至关重要，”OpenAI 公司在上周五的网站声明中指出，“因此，我们觉得有必要阐明模型的运行原理，以及我们如何运用它来进行研究和教育工作，同时，我们还将详细介绍针对这项技术的安全保障措施。”

据悉，去年岁末，OpenAI 向若干外部用户有限度地推出了其创新的“语音合成器”。该系统凭借文本输入及15秒的个体语音样本，就能“制造出与原讲话者高度相似、听感自然的语音”。此工具能制作出难以辨别的多语种语音模拟，当时公司决定采取预览模式而非全面推广，理由是希望“提升社会的抵抗力”，以应对“日益先进的AI生成内容可能带来的潜在风险”。

OpenAI 正在积极参与一系列举措，包括逐渐弃用基于语音识别的银行账户验证方法，研究在人工智能中保障个人声音安全的策略，提升公众对人工智能潜在风险的认识，以及加速研发技术来追踪和验证视听内容，帮助用户辨别他们是否与真实个体还是合成媒体进行交互。

尽管付出了种种努力，对这项技术的忧虑依然普遍存在。美国总统拜登的AI事务负责人布鲁斯·里德直言，声音模仿技术令他深感忧虑，甚至影响了他的睡眠。今年3月，美国联邦贸易委员会指出，欺诈者正利用人工智能增强其欺骗手段，通过声音克隆技术使得分辨真实人类声音和AI生成的声音变得愈发困难。

在上周五发布的声明中，OpenAI 试图减轻这些忧虑，表示他们正积极与美国及全球的合作伙伴，包括政府、媒体、娱乐、教育和民间社会等行业，进行交流，以确保在开发过程中整合各方的反馈意见。同时，公司也承认，随着“语音引擎”即将整合先进模型 GPT-4o，可能会引入新的挑战。为了应对这一情况，OpenAI 正在内部对 GPT-4o 实施严格的“红队测试”，以探测并消除社会心理学、偏见与公正性、以及虚假信息等领域的已知和潜在风险。