F2 · Edge AI & Agents
DGX Spark Voice Chatbot (VAD/ASR)
導讀
在 NVIDIA DGX Spark 上串接 USB microphone、PyAudio、WebRTC VAD、turn detection、faster-whisper 與 vLLM，建立完全本機的 voice-to-text-response pipeline。工作流由 Grace CPU 處理音訊擷取、分段與 speech-to-text，Blackwell GPU 執行 LLM generation，並以即時語音輸入驗證分段 transcript 與文字回應。這套 hybrid workflow 串接開源 audio processing 與 local LLM serving，為開發者提供可調整模型、segmentation 和 prompt strategy 的 offline voice application 基線。
驗證範圍
- 定位為單一 DGX Spark 上的 offline voice chatbot reference workflow，驗證 microphone input、VAD／turn detection、CPU speech-to-text 與 GPU-backed text generation 的端到端整合。
- 硬軟體依賴包括 Grace Blackwell GB10、USB microphone、PyAudio／WebRTC VAD、faster-whisper、vLLM、指定模型與穩定的本機音訊環境；結果受口音、噪音與 segmentation parameters 影響。
- 範圍聚焦於語音輸入、轉錄與文字回應，未實作 TTS；亦未涵蓋一致的 latency／ASR quality benchmark、barge-in、遠場音訊、長時間可靠性或 production voice-service operations。
原文出處: https://learn.arm.com/learning-paths/laptops-and-desktops/dgx_spark_voicechatbot/
本頁為導讀與驗證範圍標註，非官方內容轉載。
本頁為導讀與驗證範圍標註，非官方內容轉載。