ADR-003/Personal AI Control Center · 基础设施 · 2024.01

为什么选择「自托管与本地模型优先」作为个人 AI 基础设施底座?

第一性原理 / PRINCIPLE

长期技术独立性与核心业务数据,不应受制于第三方 API 的定价与可用性。

ADR-003: 为什么选择「自托管与本地模型优先」作为个人 AI 基础设施底座?

背景与问题

当 AI 深度融入个人知识库、私有代码库和家庭监控系统时,数据主权与运行确定性成为了最核心的考量指标。

决策核心

  1. 数据主权隔离:私有笔记、未公开项目代码一律在本地 Ollama (Llama 3 / Qwen) 实例中推理;
  2. 统一网关与观测:通过统一的 Docker 控制中心监控 GPU 显存、请求队列与响应时延;
  3. 混合多级调度:复杂架构设计调用公有云前沿大模型,常规代码补全与分析流留在本地。
返回全部决策记录 (ADR)