Multi-DBSCAN：破解DBSCAN全局半径难题的多密度聚类方案
2026/10/17 7:16:27
【AI Infra小白入门③】AI Infra岗位路线图：从入门到年薪百万，你需要知道的一切
本文是「AI Infra 小白入门」系列的第三篇。前两篇我们搞懂了AI Infra是什么、大厂都有哪些团队。今天我们来聊聊最实际的问题——AI Infra岗位的级别、薪资、能力要求，以及成长路径。
一、写在前面：为什么选AI Infra？
先说好消息：AI Infra是目前AI领域薪资最高、缺口最大的方向之一。
为什么？因为：
- 门槛高：既要懂算法，又要懂硬件，还要懂系统工程——三者兼备的人才极少
- 需求旺：大模型时代，每家公司都在抢AI Infra人才
- 价值实：AI Infra直接决定了"训练要花多少钱"、“推理能承载多少用户”——这些都是真金白银的价值
但高薪资也意味着高要求。这篇文章就帮你梳理清楚：从入门到高级，你需要掌握什么，以及怎么一步步成长。
先上一张全景路线图：
二、三个级别：你在哪一层？
我们先来看一张总表，对AI Infra的职级和薪资有个整体概念：
| 级别 | 大致薪资范围（月薪） | 代表岗位 |
|---|---|---|
| 初级 | 20k - 35k | 推理部署工程师、TensorRT工程师、CUDA工程师 |
| 中级 | 35k - 60k | AI Infra工程师、编译器工程师、LLM Serving工程师 |
| 高级 | 60k - 100k+ | AI系统架构师、推理平台负责人、大模型基础设施负责人 |
💡说明：以上是国内一线大厂的大致范围，不同城市、不同公司会有差异。顶级公司的高级岗位年薪轻松破百万。
下面我们分别拆解每个级别的能力要求。
三、初级（0-2年）：打好基础，能干活
3.1 核心要求
- 会用工具：能用TensorRT转换模型、能写基础的CUDA kernel、能跑通DDP分布式训练
- 理解概念：懂GPU基本架构、显存构成、常见并行概念
- 产出标准：在指导下完成部署/优化任务
3.2 小白成长路径
如果你是零基础想入行，建议按这个顺序学：
- Python + C++基础：Python用得多，C++是底层必备
- 深度学习基础：PyTorch要熟练，知道模型是怎么训练和推理的
- GPU和CUDA入门：理解GPU架构、会写简单的CUDA kernel
- 部署工具上手：TensorRT/ONNX Runtime跑通一个模型部署
- 找一份相关工作：先入行，在实战中成长最快
3.3 初级阶段的核心任务
把基础打扎实，不要贪多。
很多初学者一上来就想"全栈"——又学CUDA、又学编译、又学分布式，结果每样都只懂皮毛。初级阶段最重要的是：选一个方向，把基础打牢。
四、中级（2-5年）：独当一面，有深度
4.1 核心要求
- 独立负责：能独立负责一个模块，比如推理引擎的调度器、编译器的某个Pass、训练的通信优化
- 深入原理：能讲清PagedAttention、ZeRO、图优化等技术的实现细节
- 量化思维：所有优化都有benchmark数据支撑——不说"我优化了性能"，而说"我把延迟从20ms降到了12ms，吞吐提升了67%"
4.2 中级阶段的标志
怎么判断自己到了中级？有几个简单的标准：
- 接到一个需求，你能自己拆解方案、评估工作量、落地实现，不需要别人手把手带
- 遇到性能问题，你知道怎么定位和分析，而不是瞎试
- 你做的优化有明确的数字成果——延迟降了多少、成本省了多少、吞吐提了多少
4.3 中级成长建议
- 建立"T型"能力：一个方向做到专家级，同时对相邻方向有基本了解（比如做推理的，也要懂点编译和量化）
- 积累项目作品：每个项目都留下benchmark数据和总结，这是你以后跳槽和晋升的"硬通货"
- 主动承担更有挑战的任务：不要一直做"熟门熟路"的事，主动啃硬骨头
五、高级（5年+）：架构设计，带团队
5.1 核心要求
- 架构设计：能设计整个训练/推理平台的架构，做技术选型和路线规划
- 跨域协同：算子 + 编译 + Runtime + Serving全链路打通，不是只懂一块
- 团队与业务：能带团队，能把技术指标转化为业务指标（成本降了多少、用户体验提升了多少、稳定性提高了多少）
5.2 高级工程师和中级的本质区别
中级工程师是"把事情做对"，高级工程师是"做对的事情"。
举个例子：
- 中级：接到需求"把这个模型的推理延迟降下来"，然后通过各种优化手段把延迟从20ms降到了12ms——很厉害
- 高级：会先问"为什么要降延迟？业务目标是什么？降到多少够？有没有更划算的方案？比如换个更小的模型？或者加个缓存？"
高级工程师考虑的是全局最优，而不是局部最优。
六、六大岗位方向：你适合哪一个？
AI Infra不是一个单一岗位，而是有很多细分方向。我们来逐一看看：
| 方向 | 核心技能 | 发展路径 | 适合人群 |
|---|---|---|---|
| CUDA / 算子优化 | CUDA、HPC、Nsight工具链 | 算子专家 → 性能架构师 | 喜欢抠细节、追求极致性能 |
| AI编译器 | TVM/MLIR、图优化、Codegen | 编译器工程师 → 编译器负责人 | 喜欢系统设计、对编译原理感兴趣 |
| 推理框架 / LLM Serving | vLLM、调度策略、KV Cache | Serving工程师 → 推理平台负责人 | 喜欢系统工程、关注高并发 |
| 分布式训练 | ZeRO、3D并行、NCCL通信 | 训练工程师 → 训练Infra负责人 | 喜欢大规模系统、对分布式感兴趣 |
| 推理部署（边缘） | TensorRT、量化、C++ | 部署工程师 → 端侧架构师 | 喜欢端到端落地、关注资源受限场景 |
| AI Infra综合 | 上述多项 + 系统设计 | Infra工程师 → 架构师 | 喜欢全栈、想做综合型人才 |
怎么选方向？
给小白几个建议：
- 从CUDA/部署入门：这两个方向门槛相对低一些，岗位也多，容易先入行
- 根据兴趣转方向：工作1-2年后，你对各个方向都有了解了，再决定往哪个方向深入
- 不要追逐"热门"：分布式训练很火，但门槛也极高，初学者不建议一上来就冲这个
七、成长的四条黄金建议
建议一：初级先深一个方向
不要贪多嚼不烂。先把一个方向（比如CUDA或模型部署）做扎实，做到能独立完成任务，再扩展其他方向。
建议二：中级建立"T型"能力
一专多能。一个方向做到专家级（竖线），同时对相邻方向有基本了解（横线）。这样你才能和其他团队高效协作，也为以后做架构打基础。
建议三：高级补系统与业务
到了高级，技术深度已经不是最大瓶颈了。更重要的是：
- 架构设计能力（怎么搭一个好用的系统）
- 成本意识（怎么用最少的钱办最多的事）
- 团队影响力（怎么带团队、怎么推动事情落地）
建议四：持续积累可量化成果
薪资和"能量化的影响力"正相关。
- 不要说"我优化了推理性能"，要说"我将推理延迟降低了40%，单卡QPS提升了2倍，每月节省算力成本XX万元"
- 不要说"我做了一个训练平台"，要说"我搭建的训练平台支撑了XX个模型的训练，训练效率提升了XX%"
每个项目结束后，都问自己：这个项目的数字成果是什么？把它们记下来，这是你以后晋升和跳槽的硬通货。
八、总结一下
今天这篇文章，我们讲了AI Infra的岗位路线图：
三个级别：
- 初级（0-2年）：会用工具、打好基础
- 中级（2-5年）：独当一面、有深度、量化思维
- 高级（5年+）：架构设计、跨域协同、业务转化
六大方向：CUDA算子、AI编译器、推理Serving、分布式训练、边缘部署、综合Infra
四条成长建议：先深一个方向、建立T型能力、补系统与业务、积累量化成果
下一篇预告：我们将给出完整的AI Infra学习路线图——从基础到进阶，每一步该学什么、怎么学，以及贯穿始终的核心思维方法。
📚本系列导航：
- 第1篇：一文搞懂什么是AI基础设施：五大方向与不可能三角
- 第2篇：大厂AI Infra组织架构大揭秘
- 第3篇：AI Infra岗位路线图：级别、薪资与成长路径（本文）
- 第4篇：AI Infra学习路线图：从入门到精通的完整指南
- 更多内容持续更新中……