9月15日,阶跃发布新一代语音大模型StepAudio 3系列,一次性推出StepAudio 3 Realtime、StepAudio 3 ASR、StepAudio 3 TTS、StepAudio 3 Gen和StepAudio 3 Music五款模型,覆盖实时语音交互、语音识别、真人级语音生成和音乐创作等场景。其中,多款模型在第三方AI模型评测机构Artificial Analysis榜单中位列全球第一。
相比过去主要围绕语音识别或语音生成等单项能力展开竞争,StepAudio 3将能力进一步延伸至语音理解与生成、实时推理、任务执行和音频创作的全栈能力,使AI不仅能够完成“听”和“说”,也能够理解声音背后的语义与情绪,并参与更完整的交互和内容生产过程。
面向实时语音交互场景的StepAudio 3 Realtime支持原生全双工对话,可以在持续交流过程中判断何时回应、何时等待,并处理临时打断和连续反馈。在Artificial Analysis Conversational Dynamics榜单中,该模型以98.9%的综合得分排名全球第一。与传统实时语音模型主要追求低延迟和自然对话不同,StepAudio 3 Realtime还进一步加入了语音推理和任务执行能力。模型能够同时理解语义、语气、情绪及环境声音,并支持推理与语音生成并行;Tool Call和长任务则可以异步执行,在任务运行期间不打断当前对话。该模型在Artificial Analysis Speech Reasoning榜单中同样位列全球第一。
在语音识别方面,StepAudio 3 ASR将高精度识别与大语言模型的上下文理解和知识能力结合,在解决“听清楚”的基础上,进一步提升对专业术语、人名、地名、方言及复杂上下文的理解能力。该模型支持中文、英文、方言、中英混说、长音频和专业领域等多类场景,并针对低声、快速语音、含糊连读以及背景音乐等复杂输入进行优化。在Artificial Analysis非流式语音识别准确性榜单中,StepAudio 3 ASR的WER(词错误率)为1.7%,并列全球第一。WER越低意味着转写错误越少,该成绩表明模型在第三方综合测试中的语音识别准确率已处于全球第一梯队。
除实时交互和语音识别外,此次发布也进一步拓展了语音生成模型的能力边界。StepAudio 3 TTS面向真人级语音生成,在音色、语调、节奏、停顿和情绪表达之外,还能够生成笑声、迟疑、重复、改口等真实交流中常见的副语言表现。该模型采用流式生成架构,可实现生成与播放同时进行,满足实时语音应用需求。StepAudio 3 Gen则将人声、音效、环境声和背景音乐等原本分散的生成环节整合在一起。用户可以通过自然语言描述角色、场景和剧情,一次生成包含多种声音元素的完整音频,并控制角色音色、情绪以及不同声音出现的时间与顺序,适用于影视、动画、游戏、广播剧、有声书和短视频等内容生产场景。
面向音乐创作的StepAudio 3 Music不再局限于“一句话生成一首歌”,而是支持歌曲创作、清唱配乐、歌曲翻唱以及基于ABC记谱法的多轮交互创作。用户可以通过歌词、清唱、参考歌曲等不同形式与模型共同完成编曲和作品迭代,使AI更深入参与实际音乐生产流程。
过去一年,语音大模型正从单项的语音识别和生成能力,逐渐走向实时交互、声音理解与内容创作的融合竞争。随着StepAudio 3系列发布,阶跃音频模型的产品版图已全面覆盖听、说、理解、推理和创作。目前,StepAudio 3系列五款模型均已上线阶跃星辰开放平台。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。