英伟达于10月28日宣布推出开放权重语音转录模型Nemotron 3.5 Transcribe,并同步公开训练数据管线Granary v2。该模型整合转录、说话人归属、翻译和音频问答能力,主要面向会议纪要、课堂录像、访谈整理和多语言客服等企业级场景。
在架构方面,Nemotron 3.5 Transcribe采用混合专家(MoE)架构,总参数约340亿,激活参数量约43亿。模型可处理最长1小时的录音,支持40种语言的转录,其中31种语言可与英语互译。在说话人识别方面,模型最多可区分8名说话人,并支持13种语言的说话人标注。其核心能力在于应对多人同时说话的场景,在生成文本时即可为每段发言标注说话人。官方演示显示,该模型对1940年电影《他的女友礼拜五》中语速极快、大量重叠对白的片段,也能分角色生成字幕。
在公开评测中,该模型在Hugging Face Open ASR Leaderboard英语组以5.33%的平均词错误率位居开放权重模型第一;在Artificial Analysis的非流式词错误率指数中以2.8%的成绩与Voxtral Small Transcribe并列开源模型首位。说话人归属方面,其在David AI的21种语言说话人分离基准中录得18.26%的最低错误率。
模型已在Hugging Face与ModelScope免费开放,采用OpenMDW-1.1许可证。量化版本预计后续发布,以便在RTX Spark、DGX Spark、Jetson AGX Thor等本地设备运行。
同步公开的Granary v2是英伟达为多语言语音模型构建的开放、可复用训练数据整理管线与数据集,可将原始或已有标注的音频自动加工为多种转录格式、翻译、字幕、问答和指令对,供ASR、语音翻译和语音指令微调使用。其公开数据清单覆盖463,062小时音频、48种语言、16个源语料库,较Granary v1的25种语言明显扩展。对同一段录音,Granary v2至少生成三种转录变体,分别对应保留不流畅表达的逐字稿、还原口语数字的书面文本,以及去除不流畅表达的干净文本。
此次开源使英伟达在语音AI领域形成从模型权重到数据管线的完整开放链路,对企业会议记录、客服质检和多语言内容处理等场景的SaaS厂商而言,可直接基于该模型构建垂直应用,降低自研语音能力的门槛。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。