F1 · Edge AI & Agents
DGX Persistent Agent: Hermes + Qdrant
🔊 語音速聽
導讀
在 NVIDIA DGX Spark 上以 Docker 組合 Hermes Agent、Ollama、Qdrant 與 Open WebUI，建立具 persistent workspace、semantic memory、embedding 與 contextual retrieval 的本機 Agent runtime。工作流由 Grace CPU 協調事件、記憶與服務生命週期，並將模型推論、向量資料庫和使用者介面組成可獨立替換的完整服務路徑。這套 modular reference architecture 為開發者提供可觀察、可延伸的 persistent Agent 基線，具體呈現 CPU 在本機 AI orchestration 中的關鍵角色。
驗證範圍
- 定位為單一 DGX Spark 上的 persistent Agent reference runtime，驗證 Hermes、Ollama、Qdrant 與 Open WebUI 能共同提供 workspace、memory、retrieval 與互動流程。
- 硬軟體依賴包括 Grace Blackwell GB10、Docker、相符的 container images、local models、embedding configuration、Qdrant storage 與足夠的 GPU／system memory。
- 範圍聚焦於 runnable MVP 與狀態保存方式；未涵蓋長時間 soak test、HA、backup／recovery、multi-tenant isolation、secrets management、production security 或 operations SLO。
原文出處: https://learn.arm.com/learning-paths/laptops-and-desktops/dgx_persistent_agent/
本頁為導讀與驗證範圍標註，非官方內容轉載。
本頁為導讀與驗證範圍標註，非官方內容轉載。