企业官网建设流程全解析

支持的主要模型

Ollama 提供了丰富的本地 LLM 模型选择，常见包括：

• DeepSeek 系列：如deepseek-r1:7b、deepseek-v3，适合文本生成和对话任务 。
• Llama 系列：如 Llama 3（8B、70B 参数），适合高质量文本生成和复杂任务 。
• Qwen 系列：支持多种参数规模，适合问答和信息检索 。
• OpenChat：轻量级模型，可快速部署，适合低配设备 。
• 自定义模型：可从 Hugging Face 或其他来源导入 Ollama 不提供的模型 。

安装与运行方法

1. 例如：

   ollama pull deepseek-v3

2. 运行模型：

   ollama run 模型名称

   例如：

   ollama run deepseek-r1:7b

3. 查看已安装模型：

   ollama list

4. 删除模型：

   ollama rm 模型名称

5. 查看模型详情：

   ollama show 模型名称

本地部署建议

• 硬件要求：Apple Silicon（M1/M2/M3/M4）Mac 在本地运行模型有优势，统一内存架构可直接访问 GPU 内存。32GB 内存可流畅运行 32B 参数模型 。
• 显存需求：大模型需要较大显存，模型文件越大占用显存越多，建议根据 GPU 容量选择模型 。
• 路径配置：可通过设置环境变量OLLAMA_MODELS修改模型下载路径，避免占用系统盘 。
• 性能优化：可调整线程数（OLLAMA_NUM_THREAD）、Temperature、Top_p 和 Max Tokens 参数，以平衡生成速度和文本质量 。

• 总结

  Ollama 让本地部署 LLM 模型变得简单，支持多种开源模型和自定义模型导入，无需复杂环境配置即可实现离线对话、文本生成、RAG 索引等功能。用户可根据硬件条件和任务需求选择合适模型，实现类似 ChatGPT 的本地体验 。