Bootstrap 3 侧边导航栏生产级实现方案
2026/10/17 3:24:47
技术演进对比总结表
| 维度 | 统计语言模型 (SLM) | 神经语言模型 (NLM) | 预训练模型 (PLM) | 大语言模型 (LLM) |
|---|---|---|---|---|
| 主要时间 | 1990s | 2003 - 2017 | 2018 - 2020 | 2020 - 至今 |
| 代表模型 | N-gram, Kneser-Ney | NPLM, Word2Vec, Seq2Seq | BERT, GPT-1/2, T5 | GPT-4, LLaMA, DeepSeek |
| 基本单元/架构 | 词频统计 / 计数模型 | 前馈网络, RNN/LSTM | Transformer (Encoder / Decoder) | 大规模 Transformer (多为 Decoder-only) |
| 文本表示 | 离散符号 / One-hot | 低维连续静态向量 (Static Embedding) | 上下文动态表征 (Contextualized) | 泛化通用隐空间 / 多模态统合 |
| 使用范式 | 规则/统计管道 | 特征提取 + 浅层下游模型 | Pre-train + Fine-tune(微调) | Pre-train + RLHF / In-context Prompting |
| 核心驱动力 | 概率论与统计学优化 | 连续向量代数与反向传播 | 预训练自注意力与通用表征迁移 | 算力缩放（Scaling）、人类对齐与自主推理（RL） |