我要投稿

开源版GPT-4o来了

发布日期：2024-10-17 12:00:34 浏览次数： 1831 来源：AI大模型前沿

“开源版GPT-4o” —— LLaMA-Omni能够接收语音指令，同步生成文本和语音响应，响应延迟低至 226ms，低于 GPT-4o 的平均音频响应延迟 320ms。

以ChatGPT为代表的LLM已成为通用任务利器，但文本交互限制了其应用范围。GPT-4o虽开启语音交互新篇章，但开源社区在此领域探索仍显不足。目前，实现LLM语音交互的常见方法是级联ASR与TTS模型，但高延迟成痛点。多模态语音-语言模型尝试直接语音到语音转换，以减少延迟，但技术挑战巨大。

为此，中科院计算所与中科院大学提出LLaMA-Omni架构，旨在实现低延迟、高质量的LLM语音交互。

论文：https://arxiv.org/pdf/2409.06666
代码：https://github.com/ictnlp/LLaMA-Omni
模型：https://huggingface.co/ICTNLP/Llama-3.1-8B-Omni
论文标题：LLaMA-Omni: Seamless Speech Interaction with Large Language Models

LLaMA-Omni 由语音编码器、语音适配器、LLM 和流式语音解码器组成。用户的语音指令由语音编码器进行编码，经过语音适配器后输入到 LLM。LLM 直接从语音指令中解码文本响应，无需首先将语音转录为文本。语音解码器是一个非自回归（NAR）流式 Transformer，它将 LLM 的输出表示作为输入，并使用连接时序分类（Connectionist Temporal Classification, CTC）来预测与语音响应相对应的离散单元序列。

在推理过程中，当 LLM 自回归生成文本响应时，语音解码器同步生成相应的离散单元。为了更好地契合语音交互场景的特点，该研究通过重写现有的文本指令数据并进行语音合成，构建了名为 InstructS2S-200K 的数据集。实验结果表明，LLaMA-Omni 可以同步生成高质量的文本和语音响应，延迟低至 226ms。

此外，与 SpeechGPT 等语音 - 语言模型相比，LLaMA-Omni 显著减少了所需的训练数据和计算资源，从而能够基于最新的 LLM 高效开发强大的语音交互模型。

LLaMA-Omni 模型概览

如图 2 所示，LLaMA-Omni 由语音编码器、语音适配器、LLM 和语音解码器组成，其中将用户的语音指令、文本响应和语音响应分别表示为 X^S、Y^T 和 Y^S。

语音编码器

该研究使用 Whisper-large-v3 （Radford et al., 2023）的编码器作为语音编码器 E。Whisper 是一种在大量音频数据上训练的通用语音识别模型，其编码器能够从语音中提取有意义的表征。

具体来说，对于用户的语音指令 X^S，编码后的语音表征由 H = ε(X^S) 给出，其中 H = [h_1, ..., h_N ] 是长度为 N 的语音表征序列，语音编码器的参数在整个训练过程中都被冻结。

语音适配器

为了使 LLM 能够理解输入语音，LLaMA-Omni 结合了一个可训练的语音适配器 A，它将语音表征映射到 LLM 的嵌入空间中。语音适配器首先对语音表征 H 进行下采样以减少序列长度。具体来说，每 k 个连续帧沿特征维度拼接：

接下来，H′ 通过具有 ReLU 激活的 2 层感知器，得到最终的语音表征 S：

大型语言模型

该研究使用 Llama-3.1-8B-Instruct（Dubey et al., 2024）作为 LLM M，它是目前 SOTA 开源 LLM，具有很强的推理能力，并且与人类偏好进行了对齐。prompt 模板 P (・) 如图 3 所示。

将语音表征序列 S 填充到对应位置，然后将整个序列 P (S) 输入到 LLM 中。最后，LLM 直接根据语音指令自回归生成文本响应 Y^T = [y^T_1 , ..., y^T_M]，并使用交叉熵损失进行训练：

语音解码器

为了与文本响应同步生成语音响应，LLaMA-Omni 在 LLM 之后添加了一个流式语音解码器 D。它由几个标准 Transformer 层组成，其架构与 LLaMA (Dubey et al., 2024) 相同，每个层都包含一个因果自注意力模块和一个前馈网络。

语音解码器以非自回归方式运行，将 LLM 的输出表示经过上采样后作为输入，并生成与语音响应相对应的离散单元序列。

训练

如图 2 所示，LLaMA-Omni 采用两阶段训练策略。第一阶段训练模型直接根据语音指令生成文本响应的能力。具体来说，语音编码器被冻结，语音适配器和 LLM 使用公式 (3) 中的目标 L_LLM 进行训练。语音解码器在此阶段不参与训练。第二阶段训练模型来生成语音响应。在此阶段，语音编码器、语音适配器和 LLM 都被冻结，仅使用公式 (5) 中的目标 L_CTC 来训练语音解码器。

推理

在推理过程中，LLM 根据语音指令自回归生成文本响应。同时，由于语音解码器使用因果注意力，一旦 LLM 生成文本响应前缀

，相应的输出状态

就可以被输入到语音解码器中以生成部分对齐

，进而产生与生成的文本前缀相对应的离散单元。

为了进一步实现语音波形的流式合成，当生成的离散单元数量达到预定义的块大小 Ω 时，即将该离散单元片段输入到声码器中以合成语音片段，然后立即播放给用户。因此，用户无需等待生成完整的文本响应即可开始收听语音响应，从而确保低响应延迟。算法 1 描述了上述过程。

语音指令数据的构建：INSTRUCTS2S-200K

为了训练 LLaMA-Omni，需要构建三元组数据：语音指令，文本响应，语音响应。

对于语音指令数据而言，包含三步：指令重写、响应生成、语音合成。

对于基础文本指令，作者从 Alpaca 数据集中收集了大约 50K 条指令，该数据集涵盖了广泛的主题。此外，作者从 UltraChat 数据集中收集了大约 150K 条指令，该数据集主要由有关世界的问题组成。值得注意的是，UltraChat 是一个大规模多轮对话数据集，但作者仅选择了前 150K 条条目并仅使用第一轮指令。最终获得 200K 语音指令数据，称为 InstructS2S-200K。

实验结果

训练数据。作者采用 InstructS2S-200K 数据集，其包括 200K 语音指令数据。

模型配置。作者使用 Whisper-large-v3 编码器作为语音编码器，使用 Llama-3.1-8B-Instruct 作为 LLM。

训练。LLaMA-Omni 遵循两阶段训练过程：在第一阶段，作者训练语音适配器和 LLM，批处理大小为 32，共 3 个 epoch；在第二阶段，作者训练语音解码器，使用与第一阶段相同的批处理大小、step 数等。整个训练过程在 4 个 NVIDIA L40 GPU 上大约需要 65 小时。

在评估方面，作者从以下方面对模型进行了评估：

ChatGPT 得分；
语音 - 文本对齐；
语音质量；
响应延迟。

除此以外，语音 - 语言模型的基线系统包含 SpeechGPT 、 SALMONN (+TTS) 、 Qwen2-Audio (+TTS) 。

主要结果

表 1 给出了 InstructS2S-Eval 基准测试主要结果。

首先，在 S2TIF 任务中，从内容（content）角度来看，LLaMA-Omni 相比之前的模型有了显著提升，这主要是因为 LLaMA-Omni 是基于最新的 Llama-3.1-8B Instruct 模型开发的，充分利用了其强大的文本指令跟随能力。

从风格（style）角度来看，SALMONN 和 Qwen2-Audio 得分较低，因为它们是语音 - 文本模型，输出风格与语音交互场景不太对齐，经常产生格式化的内容，包含大量冗余解释。相比之下，SpeechGPT 作为语音 - 语音模型，获得了更高的风格得分。

LLaMA-Omni 获得了最高的风格得分，这说明在 InstructS2S-200K 数据集上训练后，模型输出风格已经与语音交互场景很好地对齐。

对于 S2SIF 任务，LLaMA-Omni 在内容和风格得分上也都优于之前的模型。这进一步证实了 LLaMA-Omni 能够以简洁、高效的方式通过语音有效地处理用户指令。

此外，在语音和文本响应的对齐方面，LLaMA-Omni 的 ASR-WER 和 ASR-CER 得分最低。相比之下，SpeechGPT 在对齐语音和文本响应方面表现不佳，这可能是因为它是串行生成文本和语音的。

级联系统（如 SALMONN+TTS 和 Qwen2-Audio+TTS）的语音 - 文本对齐也不是最理想的，主要是因为生成的文本响应可能包含无法合成语音的字符。这个问题在 Qwen2-Audio 中尤为明显，它偶尔会输出中文字符，从而导致语音响应错误。

相比之下，LLaMA-Omni 的 ASR-WER 和 ASR-CER 得分最低，表明生成的语音和文本响应之间的对齐程度更高，进一步验证了 LLaMA-Omni 在同时生成文本和语音响应方面的优势。

语音质量和响应延迟之间的权衡

为了更好地理解 Ω 的影响，作者对系统延迟、语音和文本响应之间的对齐以及不同 Ω 设置下生成的语音质量进行了探索。

如表 2 所示，当 Ω 设置为 10 时，系统的响应延迟低至 226ms，甚至低于 GPT-4o 的平均音频延迟 320ms。

综合来看，可以根据不同的场景调整 Ω 的值，以实现响应延迟和语音质量之间的权衡。

解码时间

表 3 列出了不同模型在 S2TIF 和 S2SIF 任务上的平均解码时间。

LLaMA-Omni 直接提供简洁的答案，从而显著缩短解码时间，平均每条指令仅为 1.49 秒。

LLaMA-Omni 同时输出文本和语音响应，并采用非自回归架构生成离散单元，总生成时间仅增加 1.28 倍，体现出 LLaMA-Omni 在解码速度上的优势。

案例研究

为了直观的了解不同模型的响应差异，作者在表 4 中提供了一个示例。

可以观察到 Qwen2-Audio 的响应相当冗长，并且包含换行符和括号等无法合成语音的元素。

SALMONN 的响应也有点长。

SpeechGPT 的响应风格更适合语音交互场景，但其响应所包含的信息量较少。

相比之下，LLaMA-Omni 给出的响应在保持简洁风格的同时更加详细和有帮助，在语音交互场景中的表现优于之前的模型。

53AI，企业落地应用大模型首选服务商

产品：大模型应用平台+智能体定制开发+落地咨询服务

承诺：先做场景POC验证，看到效果再签署服务协议。零风险落地应用大模型，已交付160+中大型企业

160+中大型企业正在使用53AI

立即咨询预约演示

百度智能云邀53AI：共创AI新纪元，启航智能新时代

2024-05-27

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

2024-05-22

热点资讯

太强了！10大开源大模型！

2024-05-06

Ollama 本地运行大模型(LLM)完全指南

2024-07-25

开源项目Composio：突破 AI 智能体开发的边界

2024-08-13

Qwen2 阿里最强开源大模型（Qwen2-7B）本地部署、API调用和WebUI对话机器人

2024-06-12

如何免费使用 Claude AI？Claude使用指南！

2024-07-11

中医大模型，开源！

2024-06-16

全民进入GPT-4时代：OpenAI强势推出GPT-4o mini！彻底取代GPT-3.5！

2024-07-20

QWEN2.5开源上新，14B/32B回归实测：这就是最强单卡本地模型！

2024-09-20

开源医疗大模型Llama3-Aloe-8B-Alpha，性能超越 MedAlpaca 和 PMC-LLaMA

2024-06-15

教你使用Ollama在本地跑Llama3.1

2024-07-25

大家都在问

微软开源的 Markitdown 可将任意文件转换为 Markdown 格式，PDF 解析咋样？

2024-12-20

开源！轻量！AI 代码助手插件 Continue 使用体验如何？

2024-12-19

不可思议！AirLLM 如何让 70B 大模型在 4GB GPU 上顺利推理？

2024-11-22

从浏览器自动化到个人助手，Skyvern又悄悄占据了AI市场的一席之地？

2024-11-19

这家小公司的700 亿参数模型竟然比Open o1还强？

2024-11-13

Ollama 更新！本地跑 LLama3.2，轻量级+视觉能力，能媲美GPT-4o？

2024-11-13

NotebookLM+AI播客到底是什么神仙组合？

2024-10-07

阿里巴巴发布Qwen2.5，对标GPT o1？

2024-09-22

开箱即用的企业大模型应用平台

工作+AI

业务+AI

AIx业务

大模型咨询

大模型定制

相关资讯

160+中大型企业正在使用53AI

百度智能云邀53AI：共创AI新纪元，启航智能新时代

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

热点资讯

太强了！10大开源大模型！

Ollama 本地运行大模型(LLM)完全指南

开源项目Composio：突破 AI 智能体开发的边界

Qwen2 阿里最强开源大模型（Qwen2-7B）本地部署、API调用和WebUI对话机器人

如何免费使用 Claude AI？Claude使用指南！

中医大模型，开源！

全民进入GPT-4时代：OpenAI强势推出GPT-4o mini！彻底取代GPT-3.5！

QWEN2.5开源上新，14B/32B回归实测：这就是最强单卡本地模型！

开源医疗大模型Llama3-Aloe-8B-Alpha，性能超越 MedAlpaca 和 PMC-LLaMA

教你使用Ollama在本地跑Llama3.1

大家都在问

微软开源的 Markitdown 可将任意文件转换为 Markdown 格式，PDF 解析咋样？

开源！轻量！AI 代码助手插件 Continue 使用体验如何？

不可思议！AirLLM 如何让 70B 大模型在 4GB GPU 上顺利推理？

从浏览器自动化到个人助手，Skyvern又悄悄占据了AI市场的一席之地？

这家小公司的700 亿参数模型竟然比Open o1还强？

Ollama 更新！本地跑 LLama3.2，轻量级+视觉能力，能媲美GPT-4o？

NotebookLM+AI播客到底是什么神仙组合？

阿里巴巴发布Qwen2.5，对标GPT o1？

热门标签

开箱即用的企业大模型应用平台

工作+AI

业务+AI

AIx业务

大模型咨询

大模型定制

相关资讯

160+中大型企业正在使用53AI

百度智能云邀53AI：共创AI新纪元，启航智能新时代

钉钉恒星计划：53AI与百余位企业家及钉钉生态伙伴，共议“AI 浪潮下的新机遇”

热点资讯

太强了！10​大开源大模型！

Ollama 本地运行大模型(LLM)完全指南

开源项目Composio：突破 AI 智能体开发的边界

Qwen2 阿里最强开源大模型（Qwen2-7B）本地部署、API调用和WebUI对话机器人

如何免费使用 Claude AI？Claude使用指南！

中医大模型 ，开源！

全民进入GPT-4时代：OpenAI强势推出GPT-4o mini！彻底取代GPT-3.5！

QWEN2.5开源上新，14B/32B回归实测：这就是最强单卡本地模型！

开源医疗大模型Llama3-Aloe-8B-Alpha，性能超越 MedAlpaca 和 PMC-LLaMA

教你使用Ollama在本地跑Llama3.1

大家都在问

微软开源的 Markitdown 可将任意文件转换为 Markdown 格式，PDF 解析咋样？

开源！轻量！AI 代码助手插件 Continue 使用体验如何？

不可思议！AirLLM 如何让 70B 大模型在 4GB GPU 上顺利推理？

从浏览器自动化到个人助手，Skyvern又悄悄占据了AI市场的一席之地？

这家小公司的700 亿参数模型竟然比Open o1还强？

Ollama 更新！本地跑 LLama3.2，轻量级+视觉能力，能媲美GPT-4o？

NotebookLM+AI播客到底是什么神仙组合？

阿里巴巴发布Qwen2.5，对标GPT o1？

热门标签

太强了！10大开源大模型！

中医大模型，开源！