U
产品发布

Mistral发布Voxtral 3语音全家桶:四款模型加语音智能体SDK

法国AI公司Mistral发布Voxtral 3语音模型家族,包含三款转写模型、一款TTS模型及基于LiveKit的语音智能体SDK。Small Transcribe 3以2.1% AA-WER位列第三方榜单第三,说话人分离与多语言批处理表现领先,但实时流式准确率仍落后于Gemini 3.5 Realtime,且未宣布开源权重。

👁 111阅读 💬 0评论
Mistral发布Voxtral 3语音全家桶:四款模型加语音智能体SDK
📝 全文约 2397 字 · 预计阅读 6 分钟

法国AI公司Mistral AI正式发布语音模型家族Voxtral 3,一次性推出三款语音识别(ASR)转写模型、一款文本转语音(TTS)模型,以及一个基于LiveKit构建的语音智能体SDK,试图把“听、推理、调用工具、说话”整合到一条流水线中。目前全部四款模型均已在Mistral API上开启公开预览,官方同时公布了详细的价格表与自测基准成绩。

四款模型覆盖从批量转写到实时流式

Voxtral 3家族包括四款模型:旗舰级Voxtral Small Transcribe 3面向批量转写与说话人分离(diarization),文档还列出了翻译、语音问答、摘要与函数调用能力;Voxtral Mini Transcribe 3是一个40亿参数的小模型,主打更便宜、更快的批量转写,官方称其适合资源受限的环境;Voxtral Mini Transcribe Realtime 3通过WebSocket提供流式ASR,并支持端点检测;Voxtral Speech 3(文中亦称Voxtral Mini TTS 3)则负责文本转语音。Small Transcribe 3的参数规模与各模型的GPU、显存需求均未披露。

所有转写模型均支持说话人分离与上下文偏置(context biasing)——用户可传入关键词或自由文本来提升关键术语的识别召回率。批量转写覆盖50种语言,其中包括24种欧盟官方语言。批量模型均配备32k上下文窗口。部署方面,模型可运行在Mistral的欧洲、美国与全球端点上,也可通过Mistral销售渠道部署到用户自己的基础设施中。

准确率:第三方榜单第三,说话人分离最佳

在Mistral自报的成绩中,Small Transcribe 3在FLEURS 45基准上(强制语言/推断语言)取得4.1%/4.0%的词错率(WER),与微软的MAI-Transcribe-2打平(同为4.1%/4.0%);Mini为4.6%/4.5%;作为对比,Whisper large-v3为16.0%/14.9%。说话人分离方面,在5个公开测试集上的cpWER为Small 18.4%、Mini 18.6%,优于Pyannote的19.0%和MAI-Transcribe-2的20.3%,是该榜单中的最佳成绩。

在第三方Artificial Analysis榜单上,Small Transcribe 3以2.1%的AA-WER排名第三,Mini为2.2%,仅有Fun-Realtime-ASR-preview(1.7%)和MAI-Transcribe-2(2.0%)高于它们。关键词召回率方面,在Earnings 22测试集上,Small在使用上下文偏置时达到94.6%,未使用时为81.4%,略高于Scribe v2的94.3%和84.0%。不过速度是明显短板:Small的速度因子为65.8倍,远低于MAI-Transcribe-2的307.5倍。

实时转写:低延迟换来准确率妥协

在FLEURS 35基准上,Realtime模型明显用延迟换取了准确率:2400毫秒延迟下WER为5.7%,480毫秒下为6.4%,240毫秒下则升至7.4%。相比之下,Gemini 3.5 Realtime Transcribe为4.2%,MAI-Transcribe-2 Streaming为5.8%,均优于Voxtral各档设置。而GPT Live Transcribe(8.4%)和Scribe v2 Realtime(8.7%)则落后于Voxtral的所有设置,Voxtral在这两个对手面前仍占优。

语音智能体SDK:一秒内完成一轮对话

基于LiveKit构建的语音智能体SDK将三个阶段整合为一条流式流水线:Realtime Transcribe 3负责聆听并检测对方何时停止说话;随后由通用大模型(如Mistral Small 4)进行推理并调用工具;最后Voxtral Speech 3以匹配当前对话语气的声音作出回复。每一轮对话可在1秒内完成,并且当来电者插话时智能体会立即停止说话。

该SDK支持通过SIP处理电话通话,也可通过WebRTC承载浏览器或应用内的会话。由于每个阶段都是独立模型,团队可以自由替换其中的LLM、语音或语言,保留了较高的组合灵活性。

TTS能力与定价:每分钟最低0.0035美元

Voxtral Speech 3定价为每百万字符13美元,Mistral称这一价格低于OpenAI TTS-1、Deepgram、ElevenLabs Flash和Gemini Flash。模型提供情绪、语速和重音等显式控制,模型页列出了约90毫秒的首音频延迟和34种情绪标签。Pro Voice功能可基于30分钟音频适配特定说话人的风格。Artificial Analysis将其列入两个TTS竞技场的前12名。

转写定价方面:Mini Transcribe 3批量版为每分钟0.0035美元,Small Transcribe 3为0.004美元,Realtime 3为0.008美元;语音智能体API搭配Mistral Small 4为每分钟0.04美元,搭配其他推理模型为0.08美元。作为横向对比,MAI-Transcribe-2厂商定价为每小时0.10美元(限时优惠),Scribe v2为每小时0.22美元,Gemini 3.5按token计费。此外,OpenRouter也已上架全部三款新模型,并提供欧盟托管、零数据保留的端点。

展望:价格与集成是筹码,速度与开源是悬念

总体来看,Voxtral 3在批量转写准确率、说话人分离和多语言覆盖上具备竞争力,低廉的价格与开箱即用的语音智能体SDK构成了Mistral切入企业语音场景的核心筹码。但实时场景下与Gemini 3.5 Realtime的准确率差距、推理速度偏慢,以及未宣布任何开源权重,都是其能否扩大影响力的关键变量。后续市场表现如何,还有待开发者生态的实际反馈检验。

💬 评论