英伟达开源的 Nemotron 3.5 Transcribe 是一款开放权重的语音大模型，它最大的特点就是靠自然语言指令来控制任务，单模型就能搞定 40 种语言的语音转录、说话人分轨、语音翻译、音频问答，单条音频最长支持处理 1 小时录音，不用再把识别、翻译、问答拆成多个独立模型串联使用，它属于 SALM 语音增强语言模型，采用混合专家架构，总参数 34B，推理时只激活约 4.3B 活跃参数，推理开销更低，适合会议录音、客服通话、多语种访谈这类长音频场景，开发者可以本地部署、量化运行，也可以通过 NIM 服务调用，还能自定义提示词适配金融、医疗等专业行业术语，在 Open ASR 榜单上取得了不错的成绩，是目前开源方案里兼顾长音频、多语言、指令控制能力的选型。
一、模型核心参数一览
| 项目 | 参数详情 |
|---|---|
| 模型名称 | Nemotron 3.5 Transcribe |
| 支持语种 | 40 种语言，包含中文、英文、7 种印度语言等 |
| 单音频上限 | 最长 1 小时录音文件 |
| 架构类型 | 语音编码器 + 说话人分轨模型 + Nemotron 3.5 Lightning MoE |
| 总参数量 | 34B，活跃参数约 4.3B |
| 可用量化版本 | BF16、FP8、NVFP4、GGUF |
| 开源协议 | OpenMDW-1.1 |
| 核心能力 | 指令式转录、说话人标注、字级时间戳、语音翻译、音频内容问答 |
| 配套工具 | NeMo Speech 微调工具包、Agent Skill 组件 |
二、支持的指令控制能力清单
- 转录类：直接转录、带说话人标注转录、输出字级时间戳、按指定格式输出文稿
- 翻译类：把音频翻译成目标语言、多语种混说音频识别 + 翻译
- 问答摘要类：提取会议决议、总结音频重点、回答音频内相关问题
- 行业定制：在提示词带入专业词汇，降低实体识别错误率
示例指令：
- 把这段音频转录，标出每个说话人，输出 Markdown 格式
- 将这段中文录音翻译成英文
- 梳理音频里提到的全部待办事项
三、实操部署步骤
- 环境准备：准备支持 CUDA 的 GPU 环境，安装 PyTorch、NeMo Speech 框架，也可以直接拉取 NGC 的 NIM 镜像；本地轻量测试优先选 GGUF 量化包，降低显存门槛。
- 获取模型权重：从 Hugging Face、NGC 平台下载对应版本权重，按需选择精度，NVFP4 版本推理速度最快。
- 加载模型与处理器：加载语音编码器、说话人分轨模块、MoE 大模型底座，配置音频采样参数。
- 导入音频文件：音频格式支持常见 wav 等，单文件不要超过 1 小时，长音频建议提前切分。
- 写入自然语言指令：直接写清楚任务要求，不需要改复杂的配置文件。
- 执行推理，拿到结果：输出转录文本、说话人标签、时间戳或者问答结论；NIM 版本还能做到最高 2238 倍实时速度。
- 微调优化（可选）：使用配套微调工具包，灌入行业专属语料，降低专业术语识别错误。
四、适合场景与不适合场景
✅适合：线上会议录音转写、跨国客服通话、多语种访谈记录、音频内容检索、音频问答 Agent 开发
❌不适合：低延迟实时流式语音识别（该版本主打离线长音频处理，流式识别选用 Nemotron 3.5 ASR）、通用大模型闲聊对话
五、常见踩坑点
- 音频超过 1 小时：直接处理会报错，需要提前切片分段处理。
- 混淆 Transcribe 和流式 ASR：Nemotron 3.5 Transcribe 是离线长音频模型，不是实时推流模型。
- 显存不足：不使用量化版本，高显存精度对显卡要求高，优先 GGUF、FP8 量化包。
- 提示词写得太模糊：指令越明确，标注、翻译、摘要结果越稳定。
【相关 FAQ】
问题 1：英伟达 Nemotron 3.5 Transcribe 能不能用自然语言指令控制语音识别、翻译和音频问答？
回答 1：英伟达 Nemotron 3.5 Transcribe 支持自然语言指令控制，单模型可以根据提示词完成语音识别转录、说话人标注、语音翻译以及音频相关问答任务。
问题 2：英伟达 Nemotron 3.5 Transcribe 最多可以处理多长的录音、支持多少种语言？
回答 2：英伟达 Nemotron 3.5 Transcribe 单条音频最长支持处理 1 小时录音，一共覆盖 40 种语言，包含中文、英文以及 7 种印度语言。
问题 3：英伟达 Nemotron 3.5 Transcribe 和 Nemotron 3.5 ASR 流式模型有什么区别？
回答 3：英伟达 Nemotron 3.5 Transcribe 主打离线长音频、指令驱动的转录翻译问答；Nemotron 3.5 ASR 是流式模型，面向低延迟实时语音识别，二者定位不同。
问题 4：英伟达 Nemotron 3.5 Transcribe 开源后有哪些权重版本可以选择？
回答 4：英伟达 Nemotron 3.5 Transcribe 开放 BF16、FP8、NVFP4、GGUF 多种权重版本，搭配 NeMo Speech 微调工具包，在 OpenMDW-1.1 协议下开放使用。
【参考资料】
[2026-11-10]（借助 NVIDIA Nemotron 3.5 Transcribe，将录音转化为有用信息）英伟达中国官网
[2026-10-30]（Nemotron 3.5 Transcribe Technical Report）NVIDIA Research
[2026-10-28]（Nemotron 3.5 Transcribe 开源，长音频指令语音模型上手）英伟达开发者社区
[2026-10-20]（Nemotron ASR 系列模型选型指南：流式与离线模型区分）NVIDIA Developer
[2026-10-15]（nemo-speech.cpp 容器部署文档）NGC Catalog
【免责声明】
本文仅为英伟达 Nemotron 3.5 Transcribe 模型的实操教程整理，不构成商用落地建议；模型能力、支持语种、音频上限、推理速度受硬件、量化版本、提示词影响；模型协议、权重下载地址、配套工具更新以英伟达官方文档、NGC、Hugging Face 页面为准；该模型不支持通用闲聊，音频内容合规、隐私风险由使用者自行负责。