Audio LLM数据集汇总

LibriSpeech、CommonVoice 和 Fleurs 是三个广泛使用的语音数据集,主要服务于语音相关的研究和开发,但它们在设计目标和应用场景上有所不同:


1. LibriSpeech

  • 用途:专为**自动语音识别(ASR)**设计的基准数据集。
  • 内容
    • 包含约 1000 小时的英文有声读物(来自 LibriVox 项目),内容为朗读的书籍章节。
    • 音频为 16kHz 单声道,附带精确的文本转录。
  • 特点
    • 高质量、干净的录音,适合训练和评估语音识别模型。
    • 按口音、说话人、文本复杂度分类,常用于学术研究的标准测试集。
  • 适用场景:英文语音识别模型训练、ASR 算法性能对比。

2. CommonVoice

  • 用途:支持多语言语音识别语音技术民主化的开源数据集。
  • 内容
    • 由 Mozilla 基金会发起,通过众包收集的多样化语音数据,涵盖 100+ 种语言(如英语、中文、法语等)。
    • 包含数千小时的录音,附带文本转录和说话人元数据(年龄、性别、口音等)。
  • 特点
    • 强调多样性和包容性,包含不同口音、年龄、背景的语音,带有真实环境噪音。
    • 数据以 CC-0 协议开源,允许商业用途。
  • 适用场景:训练多语言或鲁棒性强的语音模型,尤其适合资源稀缺的小语种。

3. Fleurs(Few-shot Learning Universal Evaluation of Robust Speech)

  • 用途:支持多语言语音识别语音翻译的评估数据集。
  • 内容
    • 由 Google 发布,覆盖 102 种语言,每种语言约 12 小时语音数据。
    • 包含平行语音-文本数据(同一文本由不同语言朗读),支持跨语言任务。
    • 除语音转录外,还提供翻译文本,适用于语音到文本的翻译任务。
  • 特点
    • 专注于少样本学习多语言模型评估,数据量适中但语言覆盖广泛。
    • 包含真实场景的语音多样性(如不同说话风格、背景噪音)。
  • 适用场景:多语言 ASR 模型训练、语音翻译、低资源语言研究。

对比总结

数据集 语言 规模 核心优势 典型应用
LibriSpeech 英语 ~1000 小时 高质量、标准化 英文 ASR 基准测试
CommonVoice 100+ 语言 数千小时 多语言、多样性、开源 多语言/鲁棒性 ASR
Fleurs 102 种语言 ~12 小时/语种 多语言平行数据、少样本学习 跨语言任务、语音翻译

根据需求选择:

  • 英文 ASR 优先选 LibriSpeech;
  • 多语言或实际场景模型 用 CommonVoice;
  • 少样本或多语言翻译任务 用 Fleurs。