博客

来自 OLAV 团队

发布公告、架构深度解析，以及构建 AI 原生基础设施工具的技术思考。

在小参数本地模型上构建 Agent 系统

在企业内网里，数据往往不能送到托管模型；而本地跑一个前沿级大模型又太贵。~30B 的模型是当下最实际的折中点——但它会幻觉、知识稀薄、可用上下文很短。本文讲怎么在它之上照样构建出一个真正能用的 Agent。

一篇 15 分钟的动手教程。装好 OLAV,用两种方式把设备数据导入(Nornir 在线 SSH 采集,或离线备份导入),创建一次新快照,然后用大白话提问、画拓扑、起草并校验一次变更、跑一次晨检 —— 全程本地 ~30B 模型,数据不出你的网络。

两个版本完成一次架构跃迁 — schema 感知 API 集成、环境感知脚本生成、7 层写安全模型。

为什么 LLM 仅仅是一个 CPU？看 Olav 是如何通过 Harness 架构为生产环境中的 AI 智能体提供“防撞墙”和“控制台”。

OLAV 现已基于 BSL-1.1 协议正式公开发布。本文介绍平台核心架构、各治理层的工作原理，以及下一步的路线图。