☰
免API Key跑AI Agent:Google Antigravity SDK本地模型部署终极指南(LiteRT/Ollama/LM Studio)
2026/9/27 10:06:42 网站建设 项目流程

免API Key跑AI Agent:Google Antigravity SDK本地模型部署终极指南(LiteRT/Ollama/LM Studio)

【免费下载链接】antigravity-sdk-pythonA Python library for building AI agents that leverage the full power of Google Antigravity.项目地址: https://gitcode.com/gh_mirrors/an/antigravity-sdk-python

Google Antigravity SDK是 Google 开源的 Python 库,用于构建由 Antigravity 与 Gemini 驱动的 AI Agent。它最大的亮点之一:不配 API Key 也能跑——通过本地模型完全在设备端执行推理,零云端依赖、零数据外泄。本指南带你用 3 条路径(LiteRT、Ollama、LM Studio)在几分钟内部署一个本地 AI Agent 🚀

两种本地部署方案对比:一张表看懂

SDK 提供了两个开箱即用的本地模型配置类,无需任何认证:

配置类底层后端是否需要 API Key适用场景
LiteRTAgentConfigLiteRT-LM 运行时❌ 不需要端侧模型,SDK 自动管理推理服务
LocalOpenAIAgentConfig本地 OpenAI 兼容服务❌ 不需要对接 Ollama、LM Studio 等自行启动的本地服务

一句话选型:想要省心 → LiteRT;已有本地模型服务 → OpenAI 兼容接入💡

一键安装:30秒完成环境准备

本地模型路径依赖 PyPI 发布的预编译运行时,直接从 PyPI 安装即可,无需克隆源码仓库:

# 1. 创建虚拟环境(推荐,避免依赖冲突) python3 -m venv .venv && source .venv/bin/activate # 2. 安装 SDK pip install google-antigravity

⚠️ 注意:SDK 依赖平台专属 wheel 中的编译运行时,克隆仓库本身不足以运行,请务必pip install。

路径一:LiteRT 部署本地模型(最省心方案)

第 1 步:安装 LiteRT 运行时依赖

LiteRTAgentConfig要求litert-lm>=0.15.0:

pip install litert-lm # 若 0.15.0 尚未发布到 PyPI,请安装夜构建版: pip install litert-lm-nightly

第 2 步:用 CLI 下载模型权重

以 Gemma 4 26B 为例(约 16.8 GB,下载后注册到~/.litert-lm/models/gemma4-26b/):

litert-lm import \ --from-huggingface-repo=litert-community/gemma-4-26B-A4B-it-litert-lm \ gemma-4-26B-A4B-it-web.litertlm gemma4-26b

💡macOS 用户:若报 SSL 证书错误,先执行pip install certifi,再设置export SSL_CERT_FILE=$(python3 -c "import certifi; print(certifi.where())")后重试。

第 3 步:3 行代码启动本地 Agent

import os from google.antigravity import Agent, LiteRTAgentConfig config = LiteRTAgentConfig( model_path=os.path.expanduser("~/.litert-lm/models/gemma4-26b/model.litertlm"), max_context_tokens=65536, )

启动时 SDK 会自动拉起一个本地 OpenAI 兼容的环回 HTTP 服务,所有推理都在设备端完成,全程无网络调用 ✅

路径二:接入 Ollama 本地模型服务

如果你已经在跑 Ollama,接入只需 3 行:

ollama pull gemma3:4b # 先拉取一个模型
from google.antigravity import Agent, LocalOpenAIAgentConfig config = LocalOpenAIAgentConfig( model="gemma3:4b", base_url="http://localhost:11434/v1", # Ollama 默认端口 )

LM Studio 接法完全相同:在应用设置中开启本地服务器,然后把base_url指向对应端口(如http://localhost:1234/v1)、model填模型 ID 即可。

⚠️ 关键避坑:不要用LocalOpenAIAgentConfig去连litert-lm serve!LiteRT 服务必须用LiteRTAgentConfig——它会帮你自动管理整个 LiteRT 服务生命周期,外部服务(Ollama/LM Studio)才归LocalOpenAIAgentConfig管。

硬件平台怎么选:后端自动检测速查表

SDK 启动时自动检测硬件加速,按下表对号入座:

你的环境推荐配置推理后端
macOS + Apple SiliconLiteRTAgentConfigGPU(Metal)
Linux + NVIDIA GPULiteRTAgentConfigGPU(CUDA)
Windows + NVIDIA GPULiteRTAgentConfigGPU(CUDA)
已运行 Ollama / LM StudioLocalOpenAIAgentConfig—
带 NPU 的设备LiteRTAgentConfigbackend='npu'
纯 CPU 机器LiteRTAgentConfigbackend='cpu'

没有 GPU 怎么办?两种兜底方式任选其一:

  • 配置中显式设置backend="cpu"
  • 运行前设置环境变量ANTIGRAVITY_ALLOW_CPU=1

⚠️ CPU 推理大模型速度极慢,仅适合小模型或快速测试;生产场景请用 GPU 或云端模型。

高频踩坑清单:这些细节决定成败

  • model_path必须是绝对路径:~不会被自动展开,Python 里用os.path.expanduser()处理;
  • 上下文窗口:默认 KV 缓存仅 4096 token,设max_context_tokens=65536才能发挥本地硬件全部能力,但会显著增加显存/内存占用;
  • 首次启动偏慢属正常:Apple Silicon 上首次运行会编译 Metal GPU 着色器,需等 1–2 分钟;后续启动走编译缓存,几秒就绪(可用cache_dir指定缓存目录);
  • 想提速?开启enable_speculative_decoding=True启用多 token 预测;
  • 本地配置默认全功能:LiteRTAgentConfig默认启用文件读写、命令执行等全部能力,注意给敏感任务配上 policies 策略。

延伸阅读:源码与文档索引

资料相对路径
项目总览 READMEREADME.md
本地模型参考文档local_models.md
本地模型入门示例local_models.md
LiteRT 配置类源码litert_connection_config.py
Ollama/LM Studio 配置类源码local_openai_connection_config.py
LiteRT 本地服务管理litert_server.py
项目依赖定义pyproject.toml

总结:Google Antigravity SDK 让"免 API Key 的 AI Agent"变得触手可及——LiteRT 一条命令搞定端侧全托管推理,Ollama / LM Studio 三行代码接入已有服务。挑一个最贴合你硬件的方案,今天就能跑起第一个完全离线、数据不出本的 AI Agent 🎯

【免费下载链接】antigravity-sdk-pythonA Python library for building AI agents that leverage the full power of Google Antigravity.项目地址: https://gitcode.com/gh_mirrors/an/antigravity-sdk-python

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询