VibeVoice-ASR-BitNet 是微软开源的 CPU 实时多语言语音识别模型，基于 VibeVoice-ASR 通过异构量化（VAE I8_S + LM I2_S BitNet）从 4.62GB 压缩至 1.58GB，无需 GPU 即可实时转写。

核心特性

• CPU 实时识别：3 个以上线程即可在普通 x86（AVX2）/ ARM（NEON）硬件上达成 RTF < 1 的实时转写，推理速度较 Whisper.cpp 快 1.6–2.3 倍
• 极致压缩：异构量化将模型压缩至 1.58GB（较 FP16 压缩 2.9 倍），配合渐进式量化感知训练，精度损失轻微
• 多语言支持：支持英语、中文、法语、意大利语、韩语、葡萄牙语、越南语等多种语言
• 热词与结构化输出：支持热词/上下文注入提升垂直领域识别准确率，可输出说话人标注与时间戳
• 自定义 SIMD 内核：在 ggml 框架内为 ARM 与 x86 平台实现算子融合与 SIMD 优化，低线程数 CPU 也能流畅运行

适用场景

会议与访谈录音转写、视频字幕生成、语音输入法、播客内容整理、客服通话质检等。

更多信息可参考：https://huggingface.co/microsoft/VibeVoice-ASR-BitNet