F2 · Edge AI & Agents
Rethinking Local-First AI Assistants: Always-On OpenClaw Runtime across Arm
🔊 語音速聽
導讀
以 OpenClaw 為核心，整合 Telegram、Qdrant、local document RAG、browser tools 與 scheduled services，建立具 persistent memory、deterministic routing 和 proactive-task capability 的 local-first Agent runtime。此架構將 Agent workflow 與 inference backend 解耦，使同一 application layer 能連接 DGX Spark 上的 vLLM／Ollama，以及 Radxa Orion O6 Armv9 CPU 上的 llama.cpp。本專案的生態價值在於建立跨 Arm compute configurations 的 Agent application baseline，並把 local processing 與 external-service data boundary 納入架構設計。
驗證範圍
- Reference implementation 驗證 OpenClaw workflow、persistent memory、local RAG、tool use 與 scheduled tasks 可連接兩種指定 Arm-based inference environments；未提供兩個平台的性能對比。
- Local-first 不等同 fully offline，Telegram、browser search、weather 與其他 external tools 仍會傳送必要資料至外部服務；multi-user isolation、credential management、high availability、auditability 與 production security 仍未涵蓋。