支持私有化部署
AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


开源TTS领域迎来重磅新星!Dia-1.6B:超逼真对话生成,开源2天斩获6.5K Star!

发布日期:2025-04-24 07:49:24 浏览次数: 1847 作者:开源星探
推荐语

文本转语音技术的新突破,Dia-1.6B以其逼真对话生成能力迅速走红。

核心内容:
1. Dia-1.6B的主要功能和特点,包括多角色对话生成和拟人化表达
2. 零样本声纹克隆和高质量语音合成,实时推理速度快
3. 快速上手指南,从安装到使用,包括官方Demo体验和Python调用示例

杨芳贤
53A创始人/腾讯云(TVP)最具价值专家

 

文本转语音(TTS)领域又迎来一位重磅新星!

由 Nari Labs 开发的 Dia-1.6B 以其超逼真的对话生成能力引发热议,仅开源两天便在 GitHub 收获 6.5K+ Star!

据说其能力超越了 ElevenLabs 和 Sesame,仅凭借 1.6B 参数就可实现情感控制、非语言声音(如笑声、咳嗽)和零样本声纹克隆,运行效率惊人。

支持从文本脚本生成多角色对话,通过 [S1]、[S2] 标签区分角色,生成自然语音,并支持非语言表达和声纹克隆,目前仅限英语。

它在 Hugging Face 也提供了模型权重和 Gradio Demo 体验。

主要功能

  • • 多角色对话生成:使用 [S1]、[S2] 等标签区分角色,单次生成多角色对话,保持自然节奏和情感过渡。
  • • 拟人化表达:支持笑声(laugh)、叹气(sigh)、咳嗽(cough)等非语言情绪
  • • 零样本声纹克隆:可微调或指定语音风格,克隆用户或角色声音
  • • 高质量语音合成:音质媲美 ElevenLabs、Sesame,细节自然,情绪变化真实
  • • 实时推理速度:A4000 显卡上约 40 tokens/s,体验流畅无等待
  • • Gradio 界面支持:自带可用的 Web UI 界面,输入文本立即试听

快速上手

Dia-1.6B 官方实验室提供了详细安装指南和 Gradio 演示。

在线体验:

无需配置环境,打开 Hugging Face Demo 即可输入脚本或音频试听效果:

Demo:https://huggingface.co/spaces/nari-labs/Dia-1.6B

安装部署与使用步骤:

1、克隆项目

git clone https://github.com/nari-labs/dia.git
cd dia

2、创建虚拟环境

python -m venv .venv
source .venv/bin/activate

3、安装依赖

pip install -e .

4、启动 Gradio UI

python app.py

访问 http://localhost:7860,输入脚本或上传音频,生成对话。

示例脚本:

[S1] Dia is amazing! [S2] Yeah, it generates laughs too! (laughs)

还可以通过 Python 包安装 Dia 的API

# Install directly from GitHub
pip install git+https://github.com/nari-labs/dia.git

Python 调用示例:

import soundfile as sf

from dia.model import Dia


model = Dia.from_pretrained("nari-labs/Dia-1.6B")

text = "[S1] Dia is an open weights text to dialogue model. [S2] You get full control over scripts and voices. [S1] Wow. Amazing. (laughs) [S2] Try it now on Git hub or Hugging Face."

output = model.generate(text)

sf.write("simple.mp3", output, 44100)

后续也将推出 pypi包和CLI工具。

使用场景推荐

  • • 有声读物 / 小说播报:让不同角色“开口说话”,配合情绪词还原真实语境
  • • 播客配音:快速合成带感情、有风格的访谈类语音
  • • AI 角色扮演:配合 Agent,多角色模拟对话系统
  • • TTS 研究与微调:声音克隆、情绪控制、非语言表达


53AI,企业落地大模型首选服务商

产品:场景落地咨询+大模型应用平台+行业解决方案

承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

添加专属顾问

回到顶部

加载中...

扫码咨询