免API Key跑AI Agent:Google Antigravity SDK本地模型部署终极指南(LiteRT/Ollama/LM Studio)
【免费下载链接】antigravity-sdk-pythonA Python library for building AI agents that leverage the full power of Google Antigravity.项目地址: https://gitcode.com/gh_mirrors/an/antigravity-sdk-python
Google Antigravity SDK是 Google 开源的 Python 库,用于构建由 Antigravity 与 Gemini 驱动的 AI Agent。它最大的亮点之一:不配 API Key 也能跑——通过本地模型完全在设备端执行推理,零云端依赖、零数据外泄。本指南带你用 3 条路径(LiteRT、Ollama、LM Studio)在几分钟内部署一个本地 AI Agent 🚀
两种本地部署方案对比:一张表看懂
SDK 提供了两个开箱即用的本地模型配置类,无需任何认证:
| 配置类 | 底层后端 | 是否需要 API Key | 适用场景 |
|---|---|---|---|
LiteRTAgentConfig | LiteRT-LM 运行时 | ❌ 不需要 | 端侧模型,SDK 自动管理推理服务 |
LocalOpenAIAgentConfig | 本地 OpenAI 兼容服务 | ❌ 不需要 | 对接 Ollama、LM Studio 等自行启动的本地服务 |
一句话选型:想要省心 → LiteRT;已有本地模型服务 → OpenAI 兼容接入💡
一键安装:30秒完成环境准备
本地模型路径依赖 PyPI 发布的预编译运行时,直接从 PyPI 安装即可,无需克隆源码仓库:
# 1. 创建虚拟环境(推荐,避免依赖冲突) python3 -m venv .venv && source .venv/bin/activate # 2. 安装 SDK pip install google-antigravity⚠️ 注意:SDK 依赖平台专属 wheel 中的编译运行时,克隆仓库本身不足以运行,请务必
pip install。
路径一:LiteRT 部署本地模型(最省心方案)
第 1 步:安装 LiteRT 运行时依赖
LiteRTAgentConfig要求litert-lm>=0.15.0:
pip install litert-lm # 若 0.15.0 尚未发布到 PyPI,请安装夜构建版: pip install litert-lm-nightly第 2 步:用 CLI 下载模型权重
以 Gemma 4 26B 为例(约 16.8 GB,下载后注册到~/.litert-lm/models/gemma4-26b/):
litert-lm import \ --from-huggingface-repo=litert-community/gemma-4-26B-A4B-it-litert-lm \ gemma-4-26B-A4B-it-web.litertlm gemma4-26b💡macOS 用户:若报 SSL 证书错误,先执行
pip install certifi,再设置export SSL_CERT_FILE=$(python3 -c "import certifi; print(certifi.where())")后重试。
第 3 步:3 行代码启动本地 Agent
import os from google.antigravity import Agent, LiteRTAgentConfig config = LiteRTAgentConfig( model_path=os.path.expanduser("~/.litert-lm/models/gemma4-26b/model.litertlm"), max_context_tokens=65536, )启动时 SDK 会自动拉起一个本地 OpenAI 兼容的环回 HTTP 服务,所有推理都在设备端完成,全程无网络调用 ✅
路径二:接入 Ollama 本地模型服务
如果你已经在跑 Ollama,接入只需 3 行:
ollama pull gemma3:4b # 先拉取一个模型from google.antigravity import Agent, LocalOpenAIAgentConfig config = LocalOpenAIAgentConfig( model="gemma3:4b", base_url="http://localhost:11434/v1", # Ollama 默认端口 )LM Studio 接法完全相同:在应用设置中开启本地服务器,然后把base_url指向对应端口(如http://localhost:1234/v1)、model填模型 ID 即可。
⚠️ 关键避坑:不要用
LocalOpenAIAgentConfig去连litert-lm serve!LiteRT 服务必须用LiteRTAgentConfig——它会帮你自动管理整个 LiteRT 服务生命周期,外部服务(Ollama/LM Studio)才归LocalOpenAIAgentConfig管。
硬件平台怎么选:后端自动检测速查表
SDK 启动时自动检测硬件加速,按下表对号入座:
| 你的环境 | 推荐配置 | 推理后端 |
|---|---|---|
| macOS + Apple Silicon | LiteRTAgentConfig | GPU(Metal) |
| Linux + NVIDIA GPU | LiteRTAgentConfig | GPU(CUDA) |
| Windows + NVIDIA GPU | LiteRTAgentConfig | GPU(CUDA) |
| 已运行 Ollama / LM Studio | LocalOpenAIAgentConfig | — |
| 带 NPU 的设备 | LiteRTAgentConfig | backend='npu' |
| 纯 CPU 机器 | LiteRTAgentConfig | backend='cpu' |
没有 GPU 怎么办?两种兜底方式任选其一:
- 配置中显式设置
backend="cpu" - 运行前设置环境变量
ANTIGRAVITY_ALLOW_CPU=1
⚠️ CPU 推理大模型速度极慢,仅适合小模型或快速测试;生产场景请用 GPU 或云端模型。
高频踩坑清单:这些细节决定成败
model_path必须是绝对路径:~不会被自动展开,Python 里用os.path.expanduser()处理;- 上下文窗口:默认 KV 缓存仅 4096 token,设
max_context_tokens=65536才能发挥本地硬件全部能力,但会显著增加显存/内存占用; - 首次启动偏慢属正常:Apple Silicon 上首次运行会编译 Metal GPU 着色器,需等 1–2 分钟;后续启动走编译缓存,几秒就绪(可用
cache_dir指定缓存目录); - 想提速?开启
enable_speculative_decoding=True启用多 token 预测; - 本地配置默认全功能:
LiteRTAgentConfig默认启用文件读写、命令执行等全部能力,注意给敏感任务配上 policies 策略。
延伸阅读:源码与文档索引
| 资料 | 相对路径 |
|---|---|
| 项目总览 README | README.md |
| 本地模型参考文档 | local_models.md |
| 本地模型入门示例 | local_models.md |
| LiteRT 配置类源码 | litert_connection_config.py |
| Ollama/LM Studio 配置类源码 | local_openai_connection_config.py |
| LiteRT 本地服务管理 | litert_server.py |
| 项目依赖定义 | pyproject.toml |
总结:Google Antigravity SDK 让"免 API Key 的 AI Agent"变得触手可及——LiteRT 一条命令搞定端侧全托管推理,Ollama / LM Studio 三行代码接入已有服务。挑一个最贴合你硬件的方案,今天就能跑起第一个完全离线、数据不出本的 AI Agent 🎯
【免费下载链接】antigravity-sdk-pythonA Python library for building AI agents that leverage the full power of Google Antigravity.项目地址: https://gitcode.com/gh_mirrors/an/antigravity-sdk-python
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考