VALL-E

VALL-E一种用于文本到语音合成 (TTS) 的语言建模方法。具体来说，我们使用从现成的神经音频编解码器模型派生的离散代码来训练神经编解码器语言模型（称为 VALL-E），并将 TTS 视为条件语言建模任务，而不是像以前的工作那样连续信号回归。在预训练阶段，我们将 TTS 训练数据扩展到 60K 小时的英语语音，这是现有系统的数百倍。VALL-E 出现了上下文学习能力，可用于合成高质量的个性化语音，只需录制 3 秒的未见过的说话者的注册录音作为声音提示。实验结果表明，VALL-E 在语音自然度和说话人相似度方面明显优于最先进的零样本 TTS 系统。此外，我们发现 VALL-E 可以在合成中保留说话者的情绪和声音提示的听觉环境。