有人把谷歌EmbeddingGemma 2改造成了语音识别模型,实现了非常惊人的端侧推理速度,快得离谱
M3 MacBook Air,1小时音频转写约13秒,处理速度288×
WER 5%,领先的STT在2%~3%,如果后续reader迭代能把WER压到3%以下,估计专用端侧STT市场要重新洗牌了
传统STT需要专门训练一个声音→文字生成模型,但是今天,EmbeddingGemma 2已经能把文本、图片、音频和视频映射到同一个语义空间,让声音的“你好”和文字的“你好”在向量空间中相互靠近
于是网友在不修改EmbeddingGemma 2参数的情况下,只在上面训练一个轻量Reader,把音频切片编码成向量后,直接在模型的文本空间里检索最近的词,把转录从生成问题变成了检索问题,把它“歪”成了一个语音转文字模型
目前5%的WER,用在容错要求相对较高的比如说会议录音整理、采访转写、语音笔记、视频字幕初稿等场景,有一定的实用潜力
#EmbeddingGemma2##STT##语音转文字# http://t.cn/AXlay0XX
发布于 美国
