F2 · Edge AI & Agents
Voice AI at the Edge
中文版:
導讀
在 DGX Spark 上整合 PyAudio、WebRTC VAD、faster-whisper 與 vLLM，建立從 microphone capture、speech segmentation、transcription 到 text response 的 local voice-AI pipeline。此架構由 Grace Arm CPU 處理 audio I/O、VAD 與 speech-to-text workflow，Blackwell GPU 執行 language-model generation，呈現語音前處理與生成式 AI 的異質分工。本專案的生態價值在於建立資料留在本機處理的 voice-application baseline，並保留各個 open-source components 的替換與調校空間。
驗證範圍
- 工作流在指定 DGX Spark、microphone、VAD、transcription model 與 vLLM configuration 下驗證 voice input、segmented transcript 和 text response；輸出不包含 TTS。
- 內容未提供跨平台 latency、accuracy、noise robustness 或 concurrent-session benchmark，也未涵蓋 wake word、speaker isolation、service reliability 與 production voice-interface integration。