为什么选择「自托管与本地模型优先」作为个人 AI 基础设施底座？

背景与问题#

当 AI 深度融入个人知识库、私有代码库和家庭监控系统时，数据主权与运行确定性成为了最核心的考量指标。

决策核心#

1. 数据主权隔离：私有笔记、未公开项目代码一律在本地 Ollama (Llama 3 / Qwen) 实例中推理；
2. 统一网关与观测：通过统一的 Docker 控制中心监控 GPU 显存、请求队列与响应时延；
3. 混合多级调度：复杂架构设计调用公有云前沿大模型，常规代码补全与分析流留在本地。