🎉Huggingface 开源:9.4k+ 一个跑在本地的开源低延迟语音助手
HuggingFace 的新项目 Speech-to-Speech 让你能在本地运行一个延迟低到像真人聊天的语音助手,已用于驱动数千台机器人。它是一个高度模块化的语音对话流水线,把 VAD → STT → LLM → TTS 四个环节拆成可插拔的组件,对外暴露一套完全兼容 OpenAI Realtime API 的 WebSocket 接口。这意味着你用 OpenAI 的 SDK 写客户端代码,却可以连到一个完全本地运行的开源语音助手——换个接口地址就行。管线低延迟的秘密有两个核心设计:一是投机式轮次追踪,用户说话的间隙,系统不干等着,而是边生成回应边准备接受补充;二是代际取消信号,实现流畅的打断机制。此外,项目还支持工具调用和跨平台策略,一套代码可适配 macOS、Linux 和 Windows。
