企业官网建设流程全解析

1. 项目概述：为什么“60秒上手”不是噱头，而是真实可达成的操作节奏

Ollama 这个词最近在技术圈里出现的频率，已经快赶上当年 Docker 刚火起来时的势头了。但和 Docker 不同的是，Ollama 的核心价值不在于容器编排或微服务治理，而在于把一个原本需要写 Makefile、配 CUDA 环境、折腾 Python 虚拟环境、手动下载几十 GB GGUF 模型文件的 AI 大模型本地运行流程，压缩成三步：安装 → 拉模型 → 运行。我第一次在 MacBook M2 上实测，从双击 dmg 安装包到终端里敲出ollama run llama3.2:1b并收到第一句回复，确实只用了 58 秒——不是四舍五入，是掐表计时。这背后不是魔法，而是 Ollama 团队对“开发者最后一公里体验”的极致打磨：它把模型加载、上下文管理、GPU 内存调度、HTTP API 封装全部封装进一个二进制里，连pip install都省了。你不需要知道什么是 llama.cpp，也不用搞懂 quantization 是怎么把 4-bit 权重映射到内存页上的，更不用去 GitHub 上翻找某个模型是否支持 Metal 后端。它就像一台全自动咖啡机——你只需要选豆子（模型名）、按按钮（run 命令），剩下的事它全包。所以“60 秒上手”不是营销话术，而是对工具设计哲学的诚实描述：降低认知负荷，把注意力还给 prompt 工程和业务逻辑本身。适合谁？刚接触 AI 的产品经理、想快速验证想法的前端工程师、需要离线处理敏感数据的合规岗同事、甚至只是想在通勤路上用手机跑个本地知识库问答的学生。它不替代 LangChain 或 LlamaIndex，但它是所有这些高级框架能跑起来的前提——就像你不会先学 TCP/IP 协议栈再去打开浏览器。国内用户最常卡住的点，往往不是技术原理，而是镜像源、网络策略、磁盘路径权限这些“非技术障碍”。这篇指南就从这些真实卡点出发，不讲抽象概念，只说你下一步该敲什么命令、改哪行配置、看哪个日志文件。

2. 核心设计思路拆解：Ollama 为什么能“轻”，又为什么不能“无脑”

2.1 架构本质：一个被极度简化的模型运行时（Runtime），而非完整推理框架

很多人第一次看到 Ollama，会下意识把它和 vLLM、Text Generation Inference（TGI）或者 LM Studio 对比。这是个根本性误解。vLLM 是为高并发、低延迟服务设计的生产级推理引擎，它要处理 PagedAttention、连续批处理、KV Cache 复用；TGI 是 Hugging Face 推出的工业级服务框架，深度集成 Transformers 生态，支持 LoRA 微调热加载；LM Studio 是面向桌面用户的 GUI 工具，内置模型市场、可视化参数调节、对话历史管理。而 Ollama 的定位非常清晰：一个开箱即用的、单机单用户、以 CLI 为第一界面的模型执行沙盒。它的核心二进制ollama实际上是一个高度定制化的 llama.cpp + 自研 HTTP Server + 模型仓库管理器的三合一产物。它不支持多用户隔离，不提供细粒度的请求限流，不开放完整的模型加载参数（比如你无法指定--n-gpu-layers 99这种 llama.cpp 原生命令），甚至连模型加载后的显存占用都做了自动裁剪——当你在 16GB 内存的 Mac 上运行qwen2.5:7b，它会自动把n-gpu-layers设为 32，而不是让你自己去试错。这种“克制”正是它“轻”的根源。它放弃的不是能力，而是通用性。就像一把瑞士军刀里的小剪刀，它不追求剪钢丝，但剪快递胶带绝对快准稳。所以如果你的场景是：每天需要稳定服务 100+ 并发请求、要对接企业级身份认证系统、要动态加载上百个不同量化精度的模型，Ollama 就不是你的起点，而是你最终服务架构里最底层的一个组件（比如用它启动一个本地模型进程，再由 vLLM 做负载均衡）。但如果你的需求是：“老板让我明天演示一个能读公司内部 PDF 并回答问题的原型”，那 Ollama 就是你今天下午三点该打开的唯一工具。

2.2 “本地部署”的真实含义：不联网 ≠ 完全离线，关键在模型获取与更新机制

“本地 AI 部署”这个词，在中文语境里常被理解为“完全断网也能用”。Ollama 在运行时确实是离线的——一旦模型被成功拉取并加载进内存，后续所有ollama run请求都不需要外网连接。但“部署”这个动作本身，绝大多数情况下是需要联网的。因为ollama pull命令默认从官方仓库registry.ollama.ai下载模型。这个仓库的镜像文件（.gguf）托管在 Cloudflare R2 上，对国内用户来说，直连速度极不稳定，经常卡在 10%、50%、99%，最后超时失败。这就是为什么“ollama 下载慢怎么办”、“国内镜像源下载 ollama”成了高频搜索词。这里必须厘清一个关键点：Ollama 本身没有内置“镜像源切换”功能。它的pull命令不接受--registry参数，也不读取.docker/config.json这类配置。所谓“国内镜像源”，其实是社区玩家通过反向代理或 CDN 加速实现的变通方案。主流做法有两种：一种是使用ollama serve启动本地服务后，用curl手动向http://localhost:11434/api/pull发送 POST 请求，Body 中指定一个国内可访问的模型文件 URL（比如阿里云 OSS 或腾讯云 COS 上的 GGUF 文件）；另一种是更彻底的——直接修改 Ollama 的模型索引文件~/.ollama/models/manifests/registry.ollama.ai/library/下的 JSON，把"digest"字段指向你预先下载好的本地文件路径。后者听起来很黑客，但实测下来，只要路径正确、文件校验通过，Ollama 会完全信任这个 manifest，后续ollama run就像从本地硬盘读取一样流畅。这说明 Ollama 的设计哲学是“信任本地”，它把安全边界划在了模型文件落地之后，而不是下载过程之前。所以，“本地部署”的真正门槛，不在于你有没有 GPU，而在于你能否让那个.gguf文件，以一种可靠、可重复的方式，放进~/.ollama/models/blobs/这个目录里。后面章节会详细展开这两种绕过官方仓库的实操路径。

2.3 版本演进的关键分水岭：0.3.x 到 0.4.x 的架构重构

Ollama 的版本迭代非常快，但并非每个版本都值得升级。我建议所有新用户直接安装 0.4.0 及以上版本，原因在于 0.4.x 是一次彻底的架构重写。0.3.x 版本的核心是基于 Go 编写的模型管理器，但它调用 llama.cpp 的方式是通过exec.Command启动一个独立进程，然后用 stdin/stdout 做 IPC 通信。这种方式简单，但带来了两个硬伤：一是内存无法共享，每次ollama run都要重新加载整个模型到内存，导致冷启动慢；二是 GPU 显存无法复用，如果同时运行两个模型，显存会各自占用一份。0.4.x 引入了全新的ollama server进程模型：它作为一个长期驻留的守护进程（daemon），在启动时就初始化好 llama.cpp 的 runtime，并将模型加载到共享内存池中。当你执行ollama run llama3.2:1b时，CLI 工具只是向这个 server 发送一个 RPC 请求，server 直接从内存池里分配一个推理上下文（context），整个过程毫秒级完成。这直接带来了三个质变：第一，ollama list能实时显示当前已加载模型的显存占用；第二，ollama run支持--num_ctx 4096这类精细参数，且修改后无需重启 server；第三，也是最重要的，它为后续的ollama serveAPI 提供了稳定基础——你可以用curl http://localhost:11434/api/chat直接调用，而不用再担心每次请求都触发一次模型重载。所以，如果你还在用 0.3.x，哪怕只是想试试qwen2.5:7b，也请务必先卸载重装。这不是为了追新，而是为了获得一个真正可用的、符合现代 AI 工具链预期的本地运行时。

3. 核心细节解析与实操要点：从安装到第一个模型运行的每一步真相

3.1 安装环节：跨平台差异与“装在 D 盘”的底层逻辑

Ollama 官方提供了 macOS、Windows 和 Linux 三大平台的安装包，但它们的安装机制和默认路径差异极大，这也是“ollama 怎么安装在 d 盘”、“ollama 安装包”等搜索词频繁出现的原因。我们逐个拆解：

• macOS (Intel/Apple Silicon)：官方 dmg 安装包本质是一个拖拽式安装。它会将ollama二进制复制到/usr/local/bin/，并将一个名为Ollama.app的 GUI 应用放入/Applications/。这个 App 的作用仅仅是启动后台服务ollama server并监听http://localhost:11434。关键点在于：它不创建任何用户数据目录。所有模型文件、配置、日志，都默认存放在当前用户的主目录下，即~/.ollama/（也就是/Users/你的用户名/.ollama/）。所以，想把模型装在“D 盘”，在 macOS 上没有意义——Mac 没有 D 盘概念，只有挂载点。但你可以通过符号链接（symlink）来间接实现。比如，你有一块高速 NVMe 外置 SSD，挂载在/Volumes/SSD/，那么可以执行：

  rm -rf ~/.ollama ln -s /Volumes/SSD/ollama ~/.ollama

  这样，所有后续ollama pull下载的模型都会实际存储在外置盘上。注意，必须在首次运行ollama run之前执行此操作，否则~/.ollama目录已被创建，再建链接会失败。

• Windows：官方 exe 安装包会引导你选择安装路径，比如C:\Users\YourName\AppData\Local\Programs\Ollama\。但这里有个巨大陷阱：它默认将模型数据目录设在C:\Users\YourName\.ollama\，而不是安装目录下。这意味着即使你把程序装在 D 盘，模型文件依然会疯狂占用 C 盘空间。解决方法有两个：其一，安装完成后，不要立刻运行，而是先用管理员权限打开 PowerShell，执行：

  $env:OLLAMA_HOME="D:\ollama" ollama serve

  这会强制 Ollama 使用D:\ollama作为根目录。其二，更一劳永逸的方法是修改 Windows 系统环境变量，在“系统属性 -> 高级 -> 环境变量”里，新建一个用户变量OLLAMA_HOME，值设为D:\ollama。这样，无论你从哪里启动ollama，它都会读取这个变量。实测下来，第二种方法最稳，重启 CMD 也生效。

• Linux (Ubuntu/Debian/CentOS)：官方推荐用curl下载二进制并sudo install到/usr/bin/。但ollama二进制本身是静态链接的，不依赖系统库，所以你完全可以把它放在任何地方，比如/opt/ollama/ollama。真正的关键在于OLLAMA_HOME环境变量。Linux 下没有图形界面，ollama serve必须手动启动。因此，最佳实践是：创建一个 systemd 服务文件/etc/systemd/system/ollama.service，内容如下：

  [Unit] Description=Ollama Service After=network.target [Service] Type=simple Environment="OLLAMA_HOME=/data/ollama" ExecStart=/usr/bin/ollama serve User=ollama Group=ollama Restart=always RestartSec=3 [Install] WantedBy=multi-user.target

  这里Environment="OLLAMA_HOME=/data/ollama"就是把模型目录锁定在/data/ollama（你可以挂载一块大容量 SATA 盘到/data）。然后执行sudo systemctl daemon-reload && sudo systemctl enable ollama && sudo systemctl start ollama。这样，Ollama 就成了一个标准的 Linux 服务，开机自启，日志归集到journalctl -u ollama，模型路径也完全可控。

提示：无论哪个平台，OLLAMA_HOME环境变量都是控制模型存放路径的唯一权威开关。它优先级高于任何配置文件或命令行参数。设置前，请确保目标路径有足够空间（一个 7B 模型 GGUF 文件约 4-5GB，13B 约 8-10GB）且当前用户有读写权限。

3.2 模型拉取：绕过官方仓库的三种实战方案

当ollama pull qwen2.5:7b卡在 99% 时，别急着重试。这是国内网络环境下最典型的“假死”状态。Ollama 的pull命令在下载大文件时，不会显示实时进度条，只会等整个文件下载完再校验。而 Cloudflare R2 的连接可能在传输中途被运营商劫持或重置，导致 Ollama 认为下载失败。以下是经过千次实测验证的三种破局方案：

方案一：手动下载 + 本地注册（推荐给新手）

这是最透明、最可控的方法。步骤如下：

1. 打开 Hugging Face 模型库，搜索qwen2.5，进入官方仓库Qwen/Qwen2.5-7B-Instruct。
2. 在Files and versions标签页，找到后缀为-Q4_K_M.gguf的文件（这是平衡速度与精度的最佳量化版本），右键复制下载链接。例如：https://huggingface.co/Qwen/Qwen2.5-7B-Instruct/resolve/main/Qwen2.5-7B-Instruct-Q4_K_M.gguf。
3. 用迅雷、IDM 或aria2c这类支持断点续传的工具下载。实测aria2c -x 16 -s 16 -k 1M "链接"在电信宽带下能达到满速。
4. 下载完成后，将文件重命名为qwen2.5:7b.Q4_K_M.gguf，并移动到~/.ollama/models/blobs/目录下（如果目录不存在，手动创建）。
5. 创建一个manifest.json文件，内容如下：

   { "schemaVersion": 2, "mediaType": "application/vnd.ollama.image.manifest", "config": { "mediaType": "application/vnd.ollama.image.config", "digest": "sha256:0000000000000000000000000000000000000000000000000000000000000000", "size": 0 }, "layers": [ { "mediaType": "application/vnd.ollama.image.model", "digest": "sha256:$(sha256sum qwen2.5:7b.Q4_K_M.gguf | cut -d' ' -f1)", "size": $(stat -c%s qwen2.5:7b.Q4_K_M.gguf) } ] }

   注意：$(...)部分需要在终端里实际计算。在~/.ollama/models/blobs/目录下执行：

   echo '{"schemaVersion":2,"mediaType":"application/vnd.ollama.image.manifest","config":{"mediaType":"application/vnd.ollama.image.config","digest":"sha256:0000000000000000000000000000000000000000000000000000000000000000","size":0},"layers":[{"mediaType":"application/vnd.ollama.image.model","digest":"sha256:'$(sha256sum qwen2.5:7b.Q4_K_M.gguf | cut -d" " -f1)'","size":'$(stat -c%s qwen2.5:7b.Q4_K_M.gguf)'}]}' > manifest.json

6. 最后，执行ollama create qwen2.5:7b -f manifest.json。Ollama 会读取这个 manifest，发现 layer digest 对应的文件已在 blobs 目录下，于是直接注册为一个可用模型。执行ollama list，就能看到qwen2.5:7b出现在列表中。

方案二：API 方式拉取（推荐给自动化脚本）

如果你需要批量部署多个模型，或者想集成到 CI/CD 流程中，直接调用 Ollama 的 REST API 是最优雅的方式。前提是ollama serve已启动（ollama run会自动启动，但ollama serve更稳定）。命令如下：

curl -X POST http://localhost:11434/api/pull \ -H "Content-Type: application/json" \ -d '{ "name": "qwen2.5:7b", "stream": false, "modelfile": "FROM https://your-cdn-domain.com/Qwen2.5-7B-Instruct-Q4_K_M.gguf" }'

这里的modelfile字段是关键。Ollama 的FROM指令不仅支持本地路径，也支持任意 HTTP URL。只要你有一个国内可快速访问的 CDN（比如阿里云 OSS 开启公开读，或腾讯云 COS 设置为公有读），就可以把 GGUF 文件上传上去，然后在这里填入 CDN 地址。Ollama 会自动下载、校验、保存。stream: false表示同步等待，返回 JSON 结果；true则是流式响应，适合前端展示进度条。这个方案的优势在于：完全绕过registry.ollama.ai，且可以精确控制下载源，适合企业内网环境。

方案三：修改 hosts 绑定（临时应急）

这是最“野路子”但也最立竿见影的方法。原理是：Ollama 的pull命令在解析registry.ollama.ai时，会走系统 DNS。我们可以用国内可靠的 DNS 解析服务（如 114.114.114.114 或 阿里 DNS 223.5.5.5）来加速，或者更进一步，直接在hosts文件里绑定一个已知的、国内加速的 IP。目前社区验证有效的 IP 有104.21.77.122（Cloudflare CDN 节点）。操作步骤：

1. 用管理员权限编辑C:\Windows\System32\drivers\etc\hosts（Windows）或/etc/hosts（macOS/Linux）。
2. 在文件末尾添加一行：104.21.77.122 registry.ollama.ai。
3. 保存文件，刷新 DNS 缓存（Windows:ipconfig /flushdns；macOS:sudo dscacheutil -flushcache；Linux:sudo systemd-resolve --flush-caches）。
4. 再次执行ollama pull qwen2.5:7b。

注意：此方法有失效风险，因为 Cloudflare 的 IP 会轮换。它只适合临时救急，不适合长期生产环境。但作为“60秒上手”过程中的一个备选技巧，非常实用。

3.3 模型运行与调试：不只是ollama run，还有更多隐藏能力

ollama run是最常用的命令，但它只是冰山一角。Ollama 提供了一套完整的、面向开发者的交互式调试能力，这些能力在官方文档里往往一笔带过，但在实际工作中能帮你省下大量时间。

• 交互式会话的隐藏参数：ollama run默认开启一个交互式聊天窗口。但你可以通过--verbose参数让它输出详细的推理日志，包括 token 生成时间、KV Cache 大小、GPU 显存占用。这对于判断模型是否真的在用 GPU（而不是 fallback 到 CPU）至关重要。例如：

  ollama run qwen2.5:7b --verbose

  输出中会看到类似llama_print_timings: load time = 1234.56 ms和llama_print_timings: eval time = 45.67 ms的行。如果eval time动辄几百毫秒，且llama_print_timings里没有GPU字样，那基本可以确定它在用 CPU 推理。此时你需要检查OLLAMA_NUM_GPU环境变量是否设置为1（Linux/macOS）或set OLLAMA_NUM_GPU=1（Windows CMD）。

• 非交互式调用：ollama generate：当你想把 Ollama 当作一个纯粹的文本生成 API 时，ollama run的交互模式反而成了累赘。ollama generate命令就是为此而生。它接受一个 prompt 字符串，直接输出模型的纯文本回复，不带任何额外格式。例如：

  echo "请用一句话解释量子纠缠" | ollama generate qwen2.5:7b

  这个命令的输出可以直接被grep、jq或其他 shell 工具处理，非常适合写自动化脚本。更重要的是，它支持--template参数，可以自定义 system prompt。比如，你想让模型始终以“严谨的学术口吻”回答，可以创建一个academic.tmpl文件：

  {{ .System }}\nYou are a rigorous academic researcher. Answer all questions with precise, citation-free, factual language. {{ .Prompt }}

  然后执行：

  ollama generate --template academic.tmpl qwen2.5:7b "What is photosynthesis?"

• 模型信息探查：ollama show：在决定是否要拉取一个模型前，最好先看看它的“简历”。ollama show命令能告诉你模型的详细元数据：

  ollama show qwen2.5:7b --modelfile # 显示构建该模型的 Modelfile（如果有） ollama show qwen2.5:7b --license # 显示许可证信息 ollama show qwen2.5:7b --parameters # 显示默认推理参数（temperature, top_p 等） ollama show qwen2.5:7b --template # 显示默认的 chat template

  这些信息对于理解模型行为至关重要。比如，--template输出会告诉你这个模型是用chatml还是llama-3格式训练的，这直接影响你构造 prompt 的方式。如果--template显示的是{{ .System }}\n{{ .Prompt }}，那你就不能用<|im_start|>这样的特殊 token。

• 模型导出与迁移：ollama export：当你在一个机器上成功配置好了一个模型（比如调好了num_ctx,num_gpu_layers），想把它原封不动地迁移到另一台机器上，ollama export就是终极方案。它会将模型的所有 blob 文件、manifest、配置打包成一个.tar文件：

  ollama export qwen2.5:7b qwen25-7b.tar

  然后把这个 tar 包拷贝到目标机器，执行：

  ollama import qwen25-7b.tar

  整个过程不依赖网络，不依赖模型仓库，100% 离线。这是我给客户做私有化部署时的标准交付物。

4. 实操过程与核心环节实现：从零开始，完整复现一个“手机部署本地 AI”的闭环

4.1 场景设定：为什么“手机部署本地 AI”是 Ollama 的下一个爆发点

“手机部署本地 AI”这个热搜词，乍看有点矛盾——手机算力有限，怎么跑大模型？但这里的“部署”不是指在手机 SoC 上直接推理，而是指：用手机作为客户端，连接并控制一台运行 Ollama 的本地服务器（比如家里的 NAS 或旧笔记本），实现随时随地、隐私无忧的 AI 交互。这才是真正符合普通人需求的“本地 AI”。它解决了三个核心痛点：第一，手机端 App（如 Ollama 官方 iOS/Android App）本身不包含模型，体积小于 50MB，下载即用；第二，所有模型运行、数据处理都在你自己的设备上，聊天记录、上传的 PDF、语音转文字结果，都不会离开你的局域网；第三，成本极低——一台闲置的 Intel NUC 或树莓派 5，装上 Ubuntu Server，再装 Ollama，一年电费不到 10 块钱。下面，我们就以“在树莓派 5 上部署 Ollama，并用 iPhone 远程访问”为例，完整走一遍。

4.2 树莓派 5 环境准备：ARM64 架构下的特殊考量

树莓派 5 使用的是 Broadcom BCM2712 SoC，CPU 是 ARM64 架构（aarch64）。Ollama 官方提供了arm64的预编译二进制，但要注意两点：第一，树莓派 5 的 RAM 是 LPDDR4X，最大 8GB，但 Ollama 默认会尝试使用全部可用内存，这可能导致系统卡死。第二，树莓派的 GPU（VideoCore VII）不支持 llama.cpp 的 Metal 或 CUDA 后端，只能走纯 CPU 推理，因此必须启用num_cpu_threads参数来榨干 4 个 Cortex-A76 核心。具体步骤如下：

1. 系统安装与基础配置：刷写 Raspberry Pi OS (64-bit) 到 SD 卡，启动后通过raspi-config启用 SSH、设置密码、扩大文件系统。更新系统：

   sudo apt update && sudo apt upgrade -y sudo apt install curl wget unzip -y

2. 安装 Ollama：官方安装脚本对 ARM64 支持完美：

   curl -fsSL https://ollama.com/install.sh | sh

   安装完成后，ollama --version应输出0.4.x。

3. 关键性能调优：创建/etc/systemd/system/ollama.service.d/override.conf，添加以下内容以限制内存并启用多线程：

   [Service] Environment="OLLAMA_NUM_PARALLEL=4" Environment="OLLAMA_MAX_LOADED_MODELS=1" Environment="GOMAXPROCS=4" ExecStart= ExecStart=/usr/bin/ollama serve --host 0.0.0.0:11434

   这里--host 0.0.0.0:11434是为了让局域网内其他设备（如 iPhone）能访问。OLLAMA_NUM_PARALLEL=4强制使用 4 个线程，OLLAMA_MAX_LOADED_MODELS=1防止 Ollama 尝试同时加载多个模型吃光内存。

4. 启动服务并设为开机自启：

   sudo systemctl daemon-reload sudo systemctl enable ollama sudo systemctl start ollama

5. 验证服务：在树莓派本机执行curl http://localhost:11434，应返回{"status":"ok"}。在局域网内另一台电脑上，用浏览器访问http://树莓派IP:11434，同样应得到ok。

4.3 模型拉取与优化：为 ARM64 选择最合适的量化版本

在树莓派上，模型大小和量化精度的权衡比在 PC 上更极端。一个qwen2.5:7b的Q8_0.gguf文件约 7GB，加载后内存占用超过 10GB，树莓派 8GB 版本会直接 OOM。我们必须选择更激进的量化。社区实测下来，Q4_K_M是 ARM64 设备的黄金分割点：文件大小约 4.2GB，推理速度在 2-3 tokens/s，质量损失在可接受范围内（能准确回答事实性问题，编程题稍弱）。拉取命令：

OLLAMA_NUM_GPU=0 ollama pull qwen2.5:7b-q4km

注意OLLAMA_NUM_GPU=0，强制禁用 GPU（树莓派没有兼容的 GPU 后端）。拉取完成后，用ollama list确认模型存在。

4.4 iPhone 端配置：从 App Store 到无缝连接

1. 安装 Ollama App：在 iPhone 上打开 App Store，搜索 “Ollama”，安装官方应用（由jmorganca开发）。

2. 配置服务器地址：打开 App，点击右上角Settings->Server->Custom，在Host字段输入你的树莓派在局域网内的 IP 地址（如192.168.1.100），端口保持11434。点击Save。

3. 测试连接：回到主界面，App 会自动扫描服务器上的模型。几秒钟后，qwen2.5:7b-q4km就会出现在模型列表中。点击它，输入一个 prompt，比如 “你好，你是谁？”，即可收到回复。

4. 进阶：用 Shortcuts 实现语音输入：iOS 的快捷指令（Shortcuts）可以调用 Ollama API。创建一个新快捷指令，添加“听写文本”动作，然后添加“获取内容”动作，URL 设为http://192.168.1.100:11434/api/chat，方法POST，请求体为：

   { "model": "qwen2.5:7b-q4km", "messages": [{"role": "user", "content": "<<<TEXT>>>"}], "stream": false }

   将<<<TEXT>>>替换为上一步的听写结果。最后添加“显示结果”动作。保存后，你只需长按 Siri 说“问 AI”，就能语音提问并看到文字回复。整个过程，数据从未离开你的家庭 Wi-Fi。

4.5 安全加固：为什么--host 0.0.0.0:11434不等于“裸奔”

很多用户看到--host 0.0.0.0就慌了，以为全世界都能访问自己的 Ollama。其实不然。Ollama 的 API 默认没有任何身份认证机制，但它天然受到网络层的保护。0.0.0.0只表示“监听所有本机网络接口”，但你的家庭路由器默认是关闭 WAN 口入站连接的。也就是说，外部互联网无法直接访问192.168.1.100:11434。真正的风险只存在于局域网内部。因此，加固措施应聚焦于此：

• 防火墙规则：在树莓派上启用ufw，只允许特定设备访问：

  sudo ufw allow from 192.168.1.101 to any port 11434 # 允许 iPhone sudo ufw allow from 192.168.1.102 to any port 11434 # 允许 Mac sudo ufw deny 11434 # 拒绝其他所有 sudo ufw enable

• 反向代理 + Basic Auth（可选）：如果你希望有更强的访问控制，可以在树莓派上安装 Nginx，配置一个反向代理：

  server { listen 80; server_name ollama.local; location / { proxy_pass http://127.0.0.1:11434; proxy_set_header Host $host; auth_basic "Restricted Access"; auth_basic_user_file /etc/nginx/.htpasswd; } }

  然后用htpasswd -c /etc/nginx/.htpasswd yourname创建用户名密码。这样，iPhone App 的服务器地址就要改成http://ollama.local，并输入账号密码。虽然多了一步，但安全性提升显著。

5. 常见问题与排查技巧实录：那些官方文档不会告诉你的“踩坑”现场

5.1 “Ollama 下载太慢怎么解决？”——一个被严重低估的底层原因

这个问题的答案，90% 的教程都停留在“换镜像源”或“改 hosts”。但我在帮 37 个不同网络环境的用户远程排障后，发现了一个更根本、更隐蔽的原因：DNS over HTTPS (DoH) 和 DNS over TLS (DoT) 的干扰。现在很多路由器、手机系统（尤其是 iOS 17+ 和 Android 12+）默认开启了 DoH/DoT，它会将 DNS 查询加密并发送到 Google (8.8