企业官网建设流程全解析

这两年“大模型”三个字几乎把互联网刷了屏，但真要坐下来从零开始学，大部分人面对的第一道坎不是技术本身，而是——资料太多太碎，不知道从哪下手。这篇“零基础考点精讲”就是干这件事的：把散落在各种文档、教程、热词里的核心知识点，按考点的方式给你串成一条线。从Transformer原理到模型选型，从微调到本地部署，再到RAG和Agent这些应用层的东西，我会直接用大白话拆开讲清楚，配合实操命令和硬件参考，帮你快速建立一张完整的大模型知识地图。适合准备入行AI应用开发的初学者、想在企业内部落地大模型方案的工程师，以及那些被各种概念绕晕、急需一份“考前笔记”的朋友。

1. 大模型基础考点：先把核心概念串起来

1.1 到底什么是大模型？从“统计学习”到“涌现能力”

大模型的全称是“大规模预训练语言模型”，英文里常写成LLM（Large Language Model）。你可以把它理解成一个“读过整个互联网的实习生”：它看过海量的书籍、论文、代码、网页，然后从中学会了遣词造句和逻辑推理的基本套路。但请注意，它不是真的“理解”了世界，而是学会了“预测下一个词”的技巧——当你给它一个上文，它会根据海量数据里总结出来的统计规律，预测最可能接下去出现的文字。

这里有个考点经常被人忽略：大模型的三大要素是数据、算力、算法。数据决定了模型的“知识面”，算力决定了模型能“吃进多少书”，算法（尤其是Transformer架构）决定了模型“怎么消化这些书”。三者缺一不可。很多人只盯着参数量看，其实参数只是表象，训练数据质量和训练方法的差异，往往比参数数量的大小更能影响模型的实际效果。

参数规模怎么念？这是个很基础但容易闹笑话的考点。1M是百万，1B是十亿，所以7B就是70亿参数，70B就是700亿参数。当前主流闭源模型动辄上千亿参数，开源模型则集中在7B、14B、32B、70B这几个档位。参数规模越大，模型的记忆容量和推理潜力通常越强，但部署成本也水涨船高。零基础阶段不用纠结绝对数值，记住“B级”这个量级就行。

还有一个非常重要的概念叫“涌现能力”（Emergent Ability）。意思是当模型的参数规模突破某个阈值后，会出现一些“小模型怎么练都练不出来”的能力——比如多步推理、上下文学习（In-Context Learning）、代码生成。这就像小孩子到了某个年龄突然会“举一反三”了，不是靠死记硬背出来的。这个考点在面试和学习中经常出现，理解它有助于解释“为什么大模型不是简单的大号统计模型”。

1.2 Transformer与注意力机制：为什么是它而不是RNN

如果要给大模型找“地基”，那必定是2017年论文《Attention is All You Need》里提出的Transformer架构。在这之前，处理序列数据的主流工具是RNN（循环神经网络）和LSTM（长短期记忆网络），但它们的致命弱点是：必须一个词一个词挨着处理，前面的信息传着传着就“衰减”了，长距离依赖处理得很吃力。

Transformer颠覆性地引入了自注意力机制（Self-Attention）。你可以把它想成：当模型读到句子里的某个词时，它会动态地“回看”整个句子里的所有其他词，并根据相关性给每个词分配一个注意力权重。比如读到“它”这个字，模型会把大部分注意力放到前面提到的具体事物名词上，从而知道“它”指的是什么。因为所有词在计算上是并行处理的，训练速度也大幅提升——RNN需要一步步“走”，Transformer直接“全视角”同时观察。

Transformer的考点关键点有三个：位置编码（Positional Encoding，因为并行计算丢了位置信息，所以要人为补充）、多头注意力（Multi-Head Attention，相当于多个人从不同角度同时看问题）、残差连接与层归一化（让深层网络更好训练）。这些名词零基础阶段能说清概念就行，但如果要深入源码级理解，建议后续花时间把注意力公式 Q、K、V 投影和缩放点积运算推导一遍，这个是从“会用”到“懂原理”的分水岭。

1.3 Token、上下文长度与幻觉：高频名词一次性说清

学习大模型绕不开Token这个词。简单理解，Token是模型处理文本的最小单位。英文里一个单词可能是一个Token，中文里一个汉字可能拆成多个Token，也可能一个常见词就是一个Token。模型看到的不是你眼里的“字”，而是被Tokenizer切好的Token序列。所以API计费按Token算，模型内部的计算也按Token算。这也是为什么同样语义的文本，英文和中文消耗的Token数量不同。

上下文长度（Context Length）指的是模型一次能“记住”的Token数量上限，就好比工作记忆的大小。早期的GPT-3只有4K上下文，现在的模型普遍做到了128K甚至200K以上，能一次性处理几百页文档。选模型时，如果你的业务是长文档分析、超长对话历史，那么上下文长度就是第一优先级的指标。

还有一个被讨论最多的问题——幻觉（Hallucination）。大模型为了“接得顺”，会在不确定时一本正经地编造内容，这叫幻觉。它不会说“我不知道”，它会给你一个听起来特别合理但却是错误答案的东西。理解幻觉的根源，是后面学习RAG（检索增强生成）的重要铺垫：模型的知识来自训练数据，训练数据有截止日期，模型本身也没有联网实时查询的能力，所以要靠外部工具来弥补。

2. 主流大模型盘点与选型考点：闭源、开源、免费API怎么选

2.1 从GPT到开源生态：主流模型家族速览

市面上的模型名称五花八门，但如果按“血统”来分，其实就两大阵营：闭源商业模型和开源模型。闭源阵营目前绕不开三家：OpenAI的GPT系列（GPT-4o、o系列）、Google的Gemini系列，以及Anthropic的Claude系列。这三家代表了大模型能力的顶尖水平，一个共同特点是：能力全面、通常需要付费API调用，而且能力不断迭代。

开源阵营则是百花齐放，对零基础学习者来说是更友好的切入点。Meta开源的LLaMA系列是开源世界的“风向标”，很多衍生模型都基于它做微调；国内团队贡献了Qwen（通义千问）、DeepSeek、GLM（智谱）等一批高质量开源模型，其中Qwen系列尤其适合中文场景；还有Mistral在欧美市场也非常活跃。开源模型最大的优势是可本地部署、可私有化、可微调，数据不必出内网，这对企业场景是硬需求。

我用一张表把这些家族的核心特征整理一下，方便零基础朋友对照记忆：

顺带提醒一下：网上偶尔能看到什么“Herdsman大模型”“Agnes大模型官网下载”之类的名字，看着好像是新出的主流模型，其实大多是误传或者小众项目，不必浪费时间去追。零基础阶段认准上面表格里这些有团队持续维护、有公开评测成绩、有社区活跃度的主流家族就够了。

2.2 免费API、云端API还是本地部署？决策核心就三条

很多新手问：我该用哪种方式接入大模型？这个问题没有标准答案，但决策逻辑是有规律可循的，核心就看三件事：数据能不能出域、预算有多少、对延迟的要求多高。

如果你只是想学习体验和做轻量级原型验证，优先走免费或低价的云端API。很多主流平台都提供免费额度甚至完全免费的模型版本，零成本就能跑通一个“AI客服”或“文档摘要”Demo。这也是目前零基础入门的最优路径：不需要显卡，不需要环境配置，浏览器调API就行。

如果是企业内部业务系统，尤其是涉及客户隐私、业务数据、财务信息时，就要优先考虑私有化部署。数据出域这一关过不了，再强的云端模型也是白搭。私有化部署可以选开源模型，跑在自己的内网服务器上。这么做的好处是数据安全可控、长期调用成本可控，但代价是你要自己搞定硬件资源和运维。

如果对响应延迟和稳定性有严格要求的工业生产环境，比如工业AI检测、服装检测这类场景，这里要多说一句：大部分机器视觉检测用的是YOLO系列等专用视觉模型，而不是“大语言模型”。大模型在质检领域的角色通常是辅助——写检测报告、做缺陷描述、回答质量异常的处理建议等，这类辅助决策用云端API或私有部署的通用轻量模型都行，真正做图像分类定位的还是传统视觉模型。混合架构才是这类场景的常态。

2.3 大模型怎么判断好坏：别只盯着参数和跑分

判断一个模型好不好，零基础最容易踩的坑是“唯参数论”和“唯跑分论”。参数多不一定强，评测分数高也不代表在你的业务场景里就一定好用。先说说评测基准：MMLU是一个覆盖多学科的知识理解评测集，C-Eval是中文版的类似评测；HumanEval和MBPP测的是代码能力；GSM8K和MATH测数学推理；LongBench专门测长文本理解。这些基准能帮你大致了解模型的“学习成绩”，但它们都是通用性的，无法覆盖你业务里的特殊问题。

真正靠谱的评估方式是拿你自己业务场景的真实数据去做“小批量人工评测”。比如你要做客服问答，就准备100个真实用户问题，分别让候选模型回答，然后从准确性、语气、格式、安全四个维度打分。这项工作虽然费时，但比任何公开榜单都更有参考价值。顺便提一句，现在有一些自动化评估工具，可以用一个“强模型”给“弱模型”的回答打分，做初筛可以，最终拍板还是建议人来过一遍。

3. 大模型微调与部署实战考点：从理论到能跑通

3.1 微调的本质：预训练是“通识教育”，微调是“专业培训”

很多人对微调有误解，以为微调是“把知识灌进模型”。其实微调的本质是调整模型的输出风格、格式和行为模式。拿学校来类比：预训练阶段相当于让一个学生读完了整个图书馆，掌握了通用知识；微调阶段则是送他去上职业培训班，学习特定岗位的“职业话术”和“工作惯例”。

微调最典型的方向是指令微调（SFT，Supervised Fine-Tuning）。用大量“用户问题-标准答案”配对数据，让模型学会“用户让我干什么我就干什么”，而不是单纯补全文字。再往后还有基于人类反馈的强化学习（RLHF/DPO），目标是让模型的回答更贴近人类的喜好和价值判断。零基础阶段可以先掌握SFT，这是性价比最高、最容易上手的一步。

那什么叫 LoRA？全称是低秩适应（Low-Rank Adaptation）。通俗讲，全量微调要更新模型全部几百亿参数，普通人的显卡根本跑不动；LoRA的做法是冻结原有参数不变，在模型旁边插上一些“小型可训练旋钮”，只训练旋钮本身。这个思路的精妙之处在于：它用很小的参数量去模拟“调整大模型行为”的效果，显存占用和训练时间都大幅降低。所以现在绝大多数微调实践都是LoRA或它的升级版QLoRA（在LoRA基础上加了4-bit量化，消费级显卡也能跑）。

3.2 微调实操流程：从数据准备到效果验证

完整的微调流程可以拆成四步：准备数据、选择工具、配置训练、验证效果。第一步的坑最多。指令微调数据的格式通常是一个JSONL文件，每行包含“instruction（指令）、input（输入）、output（标准输出）”三个字段。数据质量直接决定微调成败。三条经验分享：数据量不在多而在精，几百条高质量数据往往比几万条脏数据效果好；每条输出要保证格式统一、观点一致，模型会“模仿”你数据里的风格；数据要覆盖边界情况，否则模型在异常输入时会不知所措。

第二步选工具。零基础强烈推荐LLaMA-Factory这个开源工具，它做了图形化界面，支持多种模型和微调方法，几行命令就能起训练。还有Axolotl等工具可玩性更强，但对新手不太友好。训练脚本的典型参数包括：模型路径、数据路径、学习率、批次大小、LoRA秩（常见8到64之间）等。学习率设太小收敛慢，设太大容易学崩，一般建议在1e-4到2e-5区间调试。

显存占用怎么估算？一个粗略经验公式：模型参数量（B）× 权重精度字节数 = 模型权重所需的显存。7B模型用fp16半精度推理约需14GB显存；如果要做LoRA微调，还需额外约2-4倍于权重的显存开销，所以7B的LoRA训练通常建议32GB以上的显卡。QLoRA量化微调能进一步把门槛降到消费级显卡（比如24GB显存）可跑的范围。第三步和第四步没什么花活，训练过程中盯着loss曲线是否稳步下降，训练完拿测试集对比微调前后的输出差异，眼见为实。

3.3 Ollama与vLLM：本地部署的两大主流工具

本地部署是你真正“拥有”一个大模型的起点。对零基础用户来说，工具选Ollama基本不会错。它的理念就是把大模型打包成类似Docker容器的体验：拉取模型、运行模型都是一个命令的事，统一了模型管理和推理接口。Windows和Linux都支持，安装好后终端跑一句示例命令即可：

ollama run qwen2.5:7b

它会自动下载模型权重并启动一个交互式对话界面。Ollama也提供OpenAI兼容的API接口，默认监听本机11434端口，你可以用任何支持OpenAI格式的客户端直接连上去，等于给自己搭了一个私人“GPT”服务。它非常适合个人电脑或小团队内部试用。

另一款工具vLLM则是面向生产环境的高性能推理引擎。核心优势是它的PagedAttention技术，参考了操作系统虚拟内存的分页思路，把KV缓存切分成块管理，大幅提升了显存利用率和并发吞吐能力。如果你的场景要求高并发、低延迟，比如给企业内部多个系统提供统一的模型接口服务，vLLM是更合适的底座。启动方式大致如下：

vllm serve Qwen/Qwen2.5-7B-Instruct --tensor-parallel-size 1

Ollama主打易用性，vLLM主打性能和大吞吐，两者并不冲突。常见的务实组合是：学习和原型验证用Ollama，生产部署考虑vLLM。

3.4 部署硬件配置：CPU、GPU、NPU到底怎么选

做本地部署，最关心的就是硬件要求。首先要分清楚，大模型推理的主要负担在显存（VRAM），而不是内存或CPU。模型权重要完整塞进显存才能高效运行，显存不够就特别难办。粗略估算：7B模型用4-bit量化约需4~6GB显存，14B约需8~12GB，32B约需18~24GB，70B则需要40GB以上。这是贪心的估算，实际还取决于量化方式和上下文长度。

GPU方面，消费级市场的NVIDIA RTX 4090 24GB是跑32B以下模型的主力；苹果的M系列芯片统一内存架构在跑大模型时也有独特优势；企业级则常用A100、H100这些专业卡。最近热词里出现了“AMD NPU 大模型”——NPU是专门做神经网络计算的处理器，新一代CPU普遍集成了NPU，能在低功耗下加速特定AI任务，但主流大模型的推理目前仍以GPU为主，NPU更多用于端侧（如笔记本、手机）的轻量化模型加速，暂时替代不了独立显卡。

这里还要专门提醒一条容易踩的坑：不要无视部署环境直接下载过大的模型文件。Ollama安装的模型文件通常是分块的GGUF格式，放在指定目录下，删除模型不是删文件夹就能解决，要用ollama rm命令管理。如果下载到一半中断，重新拉取可能浪费大量时间。更稳妥的做法是：先估算自己的显存上限，再决定下载哪个参数量的模型，别一上来就奔着70B去。

4. 大模型应用层考点：Prompt、RAG与Agent

4.1 Prompt工程：和大模型高效沟通的“话术指南”

同样一个大模型，不同人用出来的效果天差地别，关键就在Prompt。Prompt工程本质上是把翻译需求这件事做好：模型只知道“下一个词是什么”，并不知道你想让它扮演什么角色、用什么格式回答，这些都需要你在Prompt里交代清楚。

好的Prompt有四个要素可以参考：角色设定（告诉它你是一个严谨的医学专家）、任务描述（请总结这份病历的要点）、上下文信息（提供完整的病历内容）、输出格式要求（用300字以内、分条列出）。举个例子，不用Prompt直接问：“介绍一下高血压”，模型会泛泛而谈；如果加上“你现在是心内科医生，请针对一位刚确诊的老年患者，用通俗语言解释高血压的日常注意事项，分四条列出”，回答质量和针对性强了不止一个量级。

进阶一点的Prompt技巧还包括思维链（Chain-of-Thought），遇到复杂数学或逻辑题时，加上“请一步步思考，并输出推理过程”，模型正确率会明显提升；还有少样本示例（Few-shot），给模型两三个输入输出范例，它就能快速学会你要的格式。这些技巧是零基础马上能用的，建议实际操作时多对比几次。

4.2 RAG：让大模型学会“查资料”再回答

RAG（Retrieval-Augmented Generation，检索增强生成）是当前大模型应用落地最关键的技术之一，没有“之一”。它解决的问题很简单：模型训练时没见过你公司的内部资料，也不可能实时联网，你怎么让它回答“我们公司最近报销流程是什么”？答案是——不懂就别瞎编，去查！

RAG的完整流程是：先把你的业务文档（PDF、Word、网页）切分成小块，用Embedding模型把每块转成向量（一串数字），存入向量数据库；用户提问时，同样把问题转成向量，然后去向量数据库里检索最相似的几个片段；最后把这些片段作为“参考资料”塞进Prompt，让模型基于这些资料作答。整个过程像给模型配了一个专属图书馆管理员，先查书再回答。

这个流程里有几个关键考点。一是文档切分策略，切太碎语义会断，切太长检索不精准，常见的办法是按固定长度重叠切分，或按标题结构语义切分；二是Embedding模型选型，中文场景要选中文表现好的向量模型，否则检索效果很差；三是检索结果的排序和重排，可以先用快的方法粗筛，再用重排模型精排。顺便提一句，热词里提到的“大模型知识抽取框架OneKE”就属于知识抽取工具，它可以把非结构化文本抽成结构化知识，放到知识图谱里，是RAG上游数据处理的得力助手。

用RAG还是用微调？很多新手会纠结。我的判断标准很简单：需要模型学新的表达风格和输出格式，用微调；需要模型知道大量实时更新的业务知识，用RAG。实际项目里两者往往结合使用，微调负责“教规矩”，RAG负责“供知识”，互相各干各的活。

4.3 Agent与多模态：下一个要攻克的山头

把Prompt、RAG、模型调用这些能力组合起来，就引出了当前大模型最火的应用形态——AI智能体（Agent）。Agent的本质是让模型不再只是“回答问题”，而是去“完成任务”。它具备规划能力（把“帮我订一家后天下午适合开会的餐厅”拆成若干行动步骤）、工具调用能力（调地图API、调点评API）、记忆能力（记住你的口味偏好和之前的对话上下文）。

现实里Agent的案例很多：让AI写一段代码并自动跑测试、让AI根据你的日程自动生成周报并发邮件、让AI在电商后台帮你处理售后工单。实现Agent通常依赖“思维链”加“工具调用循环”，模型会不断分析当前状态、决定调用哪个工具、观察返回值、再决定下一步动作。零基础可以先用现成的Agent框架（如开源的LangChain、字节的Coze等）搭一个简单的Demo，重点是理解“循环规划”这个核心逻辑。

多模态大模型则是另一个被反复提到的高频词。它指的是模型不再局限于文字输入，而是能同时理解文本、图像、音频甚至视频。GPT-4o、Gemini、Qwen-VL系列都支持多模态。这在应用层面的意义非常大：拍一张菜品图直接问热量、把一段会议录音转成结构化纪要、在工业质检中看图回答“这个瑕疵属于哪个类别、可能的原因是什么”。多模态大大扩展了大模型的感知范围，也是未来AI应用从“聊天窗口”走向“真实世界”的关键通道。

5. 零基础学习路线与避坑指南

5.1 四阶段学习路径：不用等显卡也能动手

零基础学大模型最大的误区是“等我买了显卡再开始”，但真实情况是：只要你想学，一台普通电脑甚至手机都能扶你上马。我把学习路径拆成四个阶段，每个阶段都有明确产出。

阶段一：概念扫盲（1周）。把上面讲到的Transformer、Token、上下文长度、微调、RAG、Agent这些名词弄明白，不需要会推导公式，只需要知道“它是什么、解决什么问题、和旁边那个概念的区别”。这个阶段最重要的产出是一张自己能讲清楚的概念脑图。

阶段二：API调用体验（1-2周）。去申请一个主流大模型的免费API，用Python写一个20行的脚本调用它，让它帮你总结文章、写代码，感受Prompt工程的力量。接着把对话轮数、temperature参数调一调，对比输出的变化。这个阶段建议把OpenAI兼容的API调通，原因是兼容格式已经是事实标准，一次学会到处能用。

阶段三：本地部署入门（2周）。用Ollama在你自己电脑上跑起一个7B开源模型，写一个本地问答应用，让它彻底脱离外网API跑通。紧接着可以试试稍微大一点的模型，感受不同参数量的效果差距。这个阶段你会发现“能跑”和“跑得好”之间的鸿沟在哪里。

阶段四：微调与RAG进阶（4周以上）。动手做一次LoRA微调，数据集可以从公开的指令数据集里挑几百条，也可以自己整理一份“客服问答”数据；再搭一个RAG流水线，把自己的文档库变成可对话的“知识库”。到这个阶段，你已经超过了市面上大多数“只会调API”的从业者，可以开始解决实际问题了。

5.2 常见问题速查表：新手最容易卡住的点

5.3 我的实操心得：少踩几个坑，少走几段弯路

最后分享几条我踩过坑后总结出来的心得，都是文档里不会写的内容。第一，不要一开始就追求“参数量大”，7B到14B的中等模型在绝大多数垂直场景里已经够用，先用它跑通完整流程，再根据痛点升级更大的模型；第二，不要迷信任何人的“一键部署脚本”，生产环境部署前一定自己手动部署一遍，搞清楚目录结构、配置文件、资源占用，否则出问题你连日志都看不懂；第三，用单独的环境做实验记录，每次微调或者配置变更都保存一份参数和效果对比，不然后面复现不了结果会异常痛苦。

还有一点我觉得特别重要：不要只盯技术，不盯场景。学大模型最有效的动力来自解决一个具体问题。给自己定一个小目标——比如“帮团队做一个报销政策问答机器人”或“写一个自动生成周报的工具”，然后倒推需要哪些技术，边做边学。带着问题学习，效率比刷教程高十倍。等你跑通第一个完整应用，再回头看这些考点，会发现它们已经长在你脑子里了。