当前位置: 首页 > ops >正文

【TTS学习笔记】:语音合成领域基本术语

一、基础术语

  1. TTS (Text-to-Speech)
    • 文本转语音,把输入的文字自动转换成语音的技术。
  2. G2P (Grapheme-to-Phoneme)
    • 把文字(字母/汉字)转换成对应的音素(发音单位),比如“Hello”转成 [h ə l oʊ]
  3. Phoneme(音素)
    • 语言中最小的发音单位,TTS必须先知道要怎么发音才能合成语音。
  4. Prosody(韵律)
    • 包括重音、语调、节奏、停顿等,用来让合成语音听起来更自然。
  5. Voice Cloning(声音克隆)
    • 模拟特定人的声音进行语音合成,可以“复刻”某个说话人的音色。

二、模型与算法

  1. Tacotron 2
    • 经典的TTS模型,把文字直接转换成梅尔频谱图,再通过Vocoder生成音频。
  2. FastSpeech
    • 一种速度更快、效果不错的端到端TTS模型,通过非自回归方式提升合成效率。
  3. VITS
    • 当前非常流行的TTS模型,结合了语音合成和语音风格控制,效果自然且无需单独的Vocoder。
  4. Vocoder
    • 把模型输出的“频谱图”等中间特征转换成真正的声音波形。常见的有HiFi-GAN、WaveNet、Parallel WaveGAN
  5. Diffusion Models(扩散模型)
    • 新一代生成式模型,通过逐步还原噪声生成高质量音频,提升自然度和清晰度。

三、特征与表示

  1. Mel-Spectrogram(梅尔频谱图)
    • 一种常用的音频特征图,把音频的能量分布按人类听觉感知的频率划分。TTS模型通常生成这种图,再交给Vocoder还原成语音。
  2. Pitch(音高)
    • 控制声音的高低,比如普通话的四声就是典型的音高变化。
  3. Energy(能量)
    • 反映语音的响亮程度,比如强调某个词时能量会更大。
  4. Duration(时长)
    • 每个音素的发音时长,直接影响语音节奏和流畅度。
  5. Speaker Embedding(说话人嵌入)
    • 一种用向量表示说话人特征的方法,可以控制合成的声音是谁的音色。

四、系统功能相关

  1. Zero-Shot TTS
    • 不需要特定人的大量录音,仅凭一小段语音样本就能模仿其音色进行合成。
  2. Multi-Speaker TTS
    • 一个模型支持合成多种不同人的声音。
  3. Style Transfer(风格迁移)
    • 控制语音的情绪、语气,比如“开心、悲伤、疑问句”等风格。
  4. Emotion Control(情感控制)
    • 直接控制合成语音的情感色彩,比如兴奋、悲伤、愤怒。
  5. Real-Time TTS(实时语音合成)
    • 快速生成语音,达到几乎听不到延迟的程度,适合对话机器人等实时场景。

五、总结一句话:

TTS的本质就是把“文字 → 发音 → 语音特征 → 音频波形”这一系列过程做得又自然,既要准确读出来,还得像真人一样说话。

http://www.xdnf.cn/news/5672.html

相关文章:

  • 关系型数据库和非关系型数据库
  • Redis数据类型
  • 结合 GWAS 和 TWAS 鉴定玉米籽粒中生育色醇水平的候选致病基因
  • Java Spring Boot项目目录规范示例
  • 【Python训练营打卡】day23 @浙大疏锦行
  • 基于Backtrader库的实时回测与模拟交易策略实战
  • day06_java中的流程控制语句
  • Milvus 2.4 使用详解:从零构建向量数据库并实现搜索功能(Python 实战)
  • 力扣-138.随机链表的复制
  • js fetch流式请求 AI动态生成文本,实现逐字生成渲染效果
  • 个人博客系统测试报告
  • 常用激活函数总结
  • websocketpp 安装及使用
  • 基于OpenCV的人脸识别:Haar级联分类器
  • SATA—Link层状态机
  • Gmssl库的aes算法效率问题
  • 家具制造行业的现状 质检LIMS如何赋能家具制造企业质检升级
  • 见多识广7:KAIST(韩国高等科学技术院)——关注AI加速器方向
  • 复盘与导出工具最新版V23.0版本更新--新增韭菜异动轮动功能
  • 基于 Python 的后端开发学习路线
  • 【AI】mcp server是什么玩意儿
  • 【Linux网络】 HTTP cookie与session
  • DeepPrep:深度学习提升神经影像预处理
  • LeetCode算法题:电话号码的字母组合
  • Bodhi linux 系统详解
  • 分析红黑树工程实用的特点
  • 智能手表测试计划文档(软/硬件)
  • 读取.ini后缀类型的马达配置文件并进行赋值
  • AtCoder Beginner Contest 405(ABCD)
  • 搭建高可用及负载均衡的Redis