企业官网建设流程全解析

openharness（OpenHarness）是一款面向编程 Agent 的统一指挥中心，它的Grid功能可以让你的本地大模型直接驱动 Claude Code、Codex、OpenCode 等 Agent。本指南带你用 Grid 接入 Ollama、vLLM 与 MLX-LM，把自建的本地模型变成 Agent 的"大脑"——全程无需把代码和密钥送到云端。

为什么本地大模型也要跑 Agent？

订阅 API 很方便，但有三类人会想自己跑模型：

• 代码隐私敏感：代码、密钥、聊天记录不想离开自己的机器；
• 成本与离线：高频调用 API 费用不菲，而本地推理一次下载、长期免费；
• 跨机器调度：家里有一台 M 系列 Mac、一台 NVIDIA GPU 工作站，想让 Agent 自动选一台合适的机器回答。

openharness 把这件事拆成了两步：用 Grid 管理本地模型服务，再把任意 Agent 的模型源指过去。Grid 本身是一个开放权重模型的调度工具，openharness 将其作为托管运行时内置进来，签一次名（账号登录）即可使用。

Grid 是什么：一次登录，私有模型网格就绪

Grid 的核心流程非常简单（详见 docs/plans/2026-09-14-004-harness-grid-plan.md）：

1. 登录 harness 即登录 grid：一次 SSO，同时完成grid login --harness，令牌只走 stdin，不经过命令行参数；
2. 自动创建私有网格：首次登录会为你创建一个专属的私有 grid（默认permissioned-public类型，本质是按成员白名单访问的私有网络）；
3. 机器加入服务：你的每台机器都可以拉取模型、启动推理引擎，并把模型"加入"网格；
4. Agent 指向网格：在任意 Agent 面板的模型选择器里，订阅模型（如 opus）和本地模型并列出现，一键切换。

设计上有个关键原则：app 只报模型名，端点和密钥由本机 daemon 解析，网格凭证永远不会经过中继服务器。相关实现在 cli/src/lib/gridLaunch.ts 与 cli/src/lib/gridExec.ts。

最快上手：一键启动本地模型

在桌面端，最省心的路径是"让 Agent 帮你装"：

1. 打开工具栏的Models面板（或某个 Agent 面板顶部的模型选择器），在 Local 分区点击Talk to Model manager；
2. 弹出简短对话框，说明"说一个用途，Harness 会挑一台合适的机器、下载并启动模型"，点Start；
3. 一个名为 "Local model" 的 opencode 面板打开，输入任何一句话，harness-computeagent 会反过来问你两个问题：用来干什么？需要多大上下文？然后读取grid catalog --json判断本机装得下哪个模型，自动 pull、join、并用grid chat验证模型真的能回答；
4. 模型跑起来后，在任何Agent 的模型选择器里切过去即可。

如果你更习惯命令行，harness grid login/harness grid env <grid>可以查看 relay 地址并导出 OpenAI 兼容的环境变量，指向任意 OpenAI 兼容客户端。Grid 的模型、引擎清单可用grid models --json、grid engines --json查询，grid leave停止服务，grid logout退出时会先拆除所有 serve 子进程。

三大推理引擎怎么选：Ollama、vLLM 与 MLX-LM

Grid 不只自带 llama.cpp 引擎，它还能直接收养你已经在跑的推理服务，官方经验沉淀在 Store 的 autonomous-grid 包的 skills 目录里（store/agents/autonomous-grid/）。

Ollama：复用电脑上已有的模型

Ollama 是最常见的本地推理工具。Grid 对待 Ollama 的策略是"不重复下载、不重启你的服务"：

• 如果 Ollama 正在运行，直接把它收养进网格（grid join --kind ollama），当作普通 OpenAI 兼容端点使用；
• Ollama 没装也不要紧：它的模型文件本质是 GGUF，链接到~/.grid/models后用 Grid 内置引擎直接服务，一份文件两处可用；
• 从 0.19 起，Ollama 在 Apple 芯片上还内置了 MLX 引擎，同一份模型可能同时有 GGUF 和 MLX 两种格式，选择时以"装得下"为第一原则。

细节见 store/agents/autonomous-grid/skills/engine-ollama/SKILL.md。

vLLM：NVIDIA GPU 服务器的高吞吐选择

vLLM 是 Linux + NVIDIA/AMD GPU 场景的主力，适合在 GPU 工作站上跑 Hugging Face safetensors 模型并启用工具调用（--enable-auto-tool-choice等参数按模型配方调整）。openharness 实测环境里就有 8 卡机器用 vLLM 提供 qwen3-coder 系列模型的案例（参见 docs/plans/2026-09-15-006-harness-grid-websearch-e2e-plan.md）。注意：Mac 上不要用 vLLM/SGLang——它们没有 macOS 构建，Apple 芯片请走 MLX 路线。

MLX-LM：Apple 芯片上的最优解

在 M 系列 Mac 上，MLX-LM 是 MLX 格式模型和 Hugging Face 模型的默认引擎：

• fleet models里format: mlx或format: safetensors的条目，直接由 mlx-lm server 启动，再用grid join --at http://127.0.0.1:PORT/v1接入网格；
• 若同一个模型同时有 MLX 目录和 GGUF 文件，且 MLX 版装得下内存，优先用 MLX 版——这是run-local-model流程的明确规则；
• mlx-lm 官方文档声明其 server 绑定 127.0.0.1、不建议生产环境裸奔，而 Grid 恰好只在本地回环上工作，两者契合。

选型总表在 store/agents/autonomous-grid/skills/run-local-model/SKILL.md，其中还给出内存预算公式：所需 = 权重 + 上下文 × 每 token KV 大小 × 并发数 + 0.5 GB——上下文一律不低于 64K，装不下就换更小的模型，而不是缩小窗口。

把本地模型接到任意 Agent 上

模型跑起来只是第一步，openharness 的模型选择器把订阅模型和本地模型合并成一份列表，按来源打标签（subscription / grid），还标注了模型由哪台机器应答。切换时走agent_retarget流程：面板原地重启（保留会话与回滚记录），密钥通过环境变量注入、绝不进 argv 和日志；如果 Agent 正在回合中间，会返回AGENT_BUSY拒绝打断——这是有意的安全设计。

一条常用组合是：Mac 上跑轻量模型做日常问答，GPU 工作站跑大模型做重度编码，两台机器都在同一网格内，模型选择器里并列出现，Agent 用哪个取决于你点哪一行。

实用建议与常见坑

• 先fleet discover再动手：Model Manager agent 会读取加速器是否真正可用（active: true才算数），驱动没装好的 GPU 别指望上 vLLM；
• 同一份模型文件只下载一次：不要在 Ollama、LM Studio、Grid 之间反复拷贝，链接（symlink）即可省出整份磁盘；
• Grid 二进制由 harness 托管：~/.harness/runtime下的版本优先于 PATH 上的旧grid，版本过旧会报GRID_CLI_OUTDATED，等托管运行时自动更新即可，别手动grid update覆盖托管版本；
• 验证过再切换：grid join之后流程会用一次真实请求确认模型应答，"Running" 状态行显示吞吐和请求数，比看进程列表靠谱得多。

完整验证记录（含 17.6 tok/s 的 64 GB Mac 实测、97 项面板测试全部通过）见 docs/testing/local-models-2026-09-23.md，产品总览见 README.md。

小结

openharness 的 Grid 把"本地大模型 + Agent"从一堆手动配置变成了一条顺滑的路径：登录即有私有网格，对话即完成部署，选择器即完成切换。无论你用 Ollama 复用现有模型、vLLM 压榨 GPU、还是 MLX-LM 发挥 Apple 芯片性能，你的代码和密钥都留在自己的机器上——而你的 Agent，从此可以跑在任何一台你拥有的设备上。