市场 AI 热度持续升高,端侧 AI 正从概念走向规模化落地。作为端侧领域的从业者,我一直在关注业界动态——这个关注,过去更多是"看热闹",现在变成了"必须",因为外部信号已经密集到不能忽略:AI PC 渗透率首次过半、AI 手机中国出货预计 1.47 亿台、AI 眼镜单季同比暴增 776%。
这篇文章,是我对端侧 AI 的一次系统调研复盘。目的不是罗列新闻,而是梳理外部现状与趋势,形成自己的判断框架,回答三个问题:
- 端侧 AI 是真拐点,还是概念?
- 它的瓶颈在算力、模型,还是生态?
- 现在关注,是不是已经太晚?
文章目录
- 一、基础概念---端侧AI是什么、为什么重要、怎么爆发的
- 1. 端侧AI的定义---推理在本地完成,与云端AI的取舍
- 2. 端侧AI的卖点---低延迟、隐私、离线、降本、个性化
- 3. 端侧AI起步与爆发---大模型+芯片+压缩三线成熟
- 4. 端侧AI涉及的核心技术---芯片、模型压缩、推理引擎、端云协同
- 5. 端侧AI的主战场与玩家---五类终端与四类玩家
- 二、行业和市场变化---规模CAGR 39.6%,三大终端渗透过半
- 2.1 市场规模与增长节奏---2025年3219亿→2029年1.22万亿
- 2.2 终端渗透节奏---AI PC过半、AI手机53%、AI眼镜+776%
- 2.3 主流产品指标与卖点---2nm双NPU、300亿MoE、本地大模型
- 2.4 产品布局与市场热点---高通联发科旗舰与五类终端
- 2.5 产业政策---端侧芯片攻关、存算一体、国产化替代
- 三、客户需求挖掘---终端厂商与用户两个层级的痛点
- 3.1 直接客户需求---五类终端厂商的痛点与增值点
- 3.2 终端客户需求---隐私、低延迟、离线、降本、续航
- 四、竞争对手分析---芯片格局、技术路线、生态与供应链
- 4.1 芯片厂商竞争格局---高通联发科苹果与国产三强
- 4.2 技术路线对比---协处理器、存内计算、数据流、开源IP
- 4.3 国产端侧芯片格局---营收高增、恒玄6nm、政策加速
- 4.4 生态竞争---AIOS联盟、RISC-V开源、碎片化突出
- 4.5 供应链竞争---存储涨价、HBM转向、封装散热压力
- 五、信息分析---四个"为什么"背后的拐点逻辑
- 5.1 关键数据逻辑---四个"为什么"解释拐点与矛盾
- 5.1.1 为什么 2026 年是拐点
- 5.1.2 为什么能效比取代峰值算力
- 5.1.3 为什么端云协同是长期架构
- 5.1.4 为什么跨设备协同要到 2027–2028
- 5.2 谁成功了---高通、联发科、瑞芯微、炬芯的差异化
- 六、发展方向与机会点---挑战指向的方向与机会
- 6.1 主要挑战---五大矛盾制约端侧AI落地
- 6.2 技术演进方向---挑战指向的技术走向
- 6.3 市场机会点---挑战带来的机会空间
- 七、总结---认知刷新与核心结论
- 7.1 五个重要观念的变化
- 7.2 结尾---拐点已在发生,竞争在能效比与生态
一、基础概念—端侧AI是什么、为什么重要、怎么爆发的
在展开调研之前,先把"端侧 AI"这个对象认识清楚。
1. 端侧AI的定义—推理在本地完成,与云端AI的取舍
端侧 AI(On-device AI),是指 AI 推理直接在终端设备本地完成——手机、PC、眼镜、汽车,数据不出设备。与之相对的云端 AI,是推理在云端服务器完成,终端只负责上传数据、接收结果。
两者的取舍,决定了它们各自的适用场景:
| 维度 | 端侧 AI | 云端 AI |
|---|---|---|
| 延迟 | 毫秒级本地响应 | 受网络影响,百毫秒到秒级 |
| 隐私 | 数据不出设备 | 数据要上传云端 |
| 离线 | 无网/弱网可用 | 依赖网络连接 |
| 成本 | 一次性硬件投入,长期边际成本低 | 按调用量计费,高频使用成本高 |
| 算力 | 受限(几 TOPS 到几十 TOPS) | 近乎无限 |
| 模型规模 | 受内存/功耗约束,中小模型为主 | 可跑千亿参数大模型 |
一句话:端侧 AI 赢在"快、私、离线",云端 AI 赢在"大、强、快迭代"——所以它不是要取代云端,而是补上云端覆盖不到的那一块。
2. 端侧AI的卖点—低延迟、隐私、离线、降本、个性化
端侧 AI 之所以被需要,是因为它解决了云端 AI 解决不好的几类需求:
| 卖点 | 解决什么问题 | 典型场景 | 代表产品 |
|---|---|---|---|
| 低延迟 | 云端来回一趟就卡 | 实时翻译、语音助手、拍照增强 | Meta Ray-Ban 眼镜(实时翻译)、荣耀 Magic(端侧智能体即时响应) |
| 隐私保护 | 个人数据要本地处理不上传 | 政企、医疗等敏感场景 | 华为 Mate 系列(端侧盘古大模型,数据不出端) |
| 离线可用 | AI 功能不能"断网就废" | 飞机上、地下车库、信号差 | Meta Ray-Ban 眼镜(离线语音交互) |
| 降低成本 | 云端调用费,高频使用成本高 | 长期高频使用的场景 | 联想 AI PC(80% Token 本地处理) |
| 个性化 | 本地学习用户习惯 | 个人化体验 | 荣耀"龙虾"智能体(本地学习用户习惯) |
这五条,是端侧 AI 的"存在理由",也是后面判断"哪些场景是刚需"的依据。
3. 端侧AI起步与爆发—大模型+芯片+压缩三线成熟
端侧 AI 不是新概念——早就有语音唤醒、人脸识别这类"端侧小 AI"。但这一轮的爆发,是因为三条线同时成熟:
- 大模型能力成熟:LLM 的推理能力从"能用"到"好用",让端侧有了真正"智能"的可能
- 芯片算力提升:NPU 专用加速单元普及,几 TOPS 到几十 TOPS 的算力进了手机
- 模型压缩技术:量化、蒸馏让几十亿、上百亿参数的大模型能塞进手机内存
三条线缺一不可:有大模型没算力跑不动,有算力没压缩塞不下。三者同时到位,端侧 AI 才从"能唤醒"变成"能对话、能推理"。
4. 端侧AI涉及的核心技术—芯片、模型压缩、推理引擎、端云协同
端侧 AI 不是单一技术,而是一套技术栈:
| 技术 | 是什么 | 作用 |
|---|---|---|
| 芯片 | NPU、SoC(含协处理器、存内计算等路线) | 提供算力底座 |
| 模型压缩 | 量化、蒸馏、剪枝 | "大模型能上端侧"的关键 |
| 推理引擎 | 端侧运行时、算子优化 | 决定模型实际跑多快 |
| 端云协同框架 | 端侧和云端的分工协同 | 决定系统整体架构 |
要注意的是,端侧 AI 的竞争不只是芯片竞争——模型压缩和推理引擎同样关键。同样的芯片,模型压缩做得好,能跑大几倍的模型;推理引擎做得好,能快几倍的响应。这是后面"信息分析"会反复回到的一个判断。
5. 端侧AI的主战场与玩家—五类终端与四类玩家
端侧 AI 的主战场,是五类终端:
- AI 手机、AI PC、AI 眼镜、智能座舱、具身智能
参与其中的玩家,大致四类:
- 芯片厂商:高通、联发科、苹果,以及国产的瑞芯微、炬芯、芯原等
- 终端厂商:苹果、三星、华为、小米、荣耀、联想等
- 模型厂商:提供端侧大模型和压缩工具
- 生态联盟:开源 NPU 生态、操作系统联盟
后面的调研,就是沿着"五类终端的需求"和"四类玩家的竞争"两条线展开。
二、行业和市场变化—规模CAGR 39.6%,三大终端渗透过半
先看市场本身:它有多大、长得多快、哪些终端在放量、厂商在推什么、政策在怎么扶持。
2.1 市场规模与增长节奏—2025年3219亿→2029年1.22万亿
全球端侧 AI 市场,据弗若斯特沙利文(Frost & Sullivan)预测,2025 年约 3219 亿元,2029 年将达 1.22 万亿元,CAGR 39.6%。
39.6% 的年复合增长率,是典型的拐点式增长——这是一个高复合增长的市场。更关键的是,端侧 AI 赛道已经进入"业绩兑现期"——多家产业链上市公司 2026 年上半年净利润同比增长,说明不再是"讲故事",而是"真赚钱"了。
2.2 终端渗透节奏—AI PC过半、AI手机53%、AI眼镜+776%
三大终端的渗透节奏,是判断"拐点"最硬的信号:
- AI PC:2026 年全球出货预计 1.43 亿台,渗透率 55%,首次反超传统 PC(IDC)
- AI 手机:2026 年中国出货预计 1.47 亿台,同比 +31.6%,渗透率 53%(Counterpoint)
- AI 眼镜:2026 年 Q2 全球出货同比 +776%,Meta 份额 76%(IDC)
IDC 还预测,2026 年生成式 AI PC 出货 5000 万台(占 PC 19.6%),生成式 AI 手机出货 4.32 亿部(占手机 39.7%)。
注意这里有两个口径:整机口径的"AI PC 渗透率 55%"是广义的(带 NPU 就算),生成式口径的"19.6%"是狭义的(真能跑生成式 AI 的)。口径差异背后是"AI 功能"和"AI 能力"的区别——很多"AI PC"只是带了 NPU,未必真能跑大模型。
2.3 主流产品指标与卖点—2nm双NPU、300亿MoE、本地大模型
旗舰芯片这一代的指标,能看出端侧 AI 的"军备竞赛":
- 2nm 制程、双 NPU、300 亿参数 MoE、常开 AI 功耗降低 40%
厂商宣传的卖点,集中在几个方向:本地大模型、跨应用智能体、端云协同、隐私保护。而消费者真正关心的,是续航、发热、隐私——厂商推的和用户要的,并不完全一致,这个错位后面会展开。
关注度高的端侧 AI 产品(2026 年热点):
| 产品 | 品类 | 端侧AI亮点 |
|---|---|---|
| 荣耀 Magic 系列 | AI 手机 | 端侧"龙虾"智能体,简单任务 100% 端侧处理,支持跨应用理解与任务自主执行,无需联网 |
| 联想 AI PC | AI PC | 混合式 AI,80% Token 本地、20% 云端,本地大模型与云端协同,兼顾隐私与算力 |
| Meta Ray-Ban 智能眼镜 | AI 眼镜 | 全球份额 76%,实时翻译、拍照识别、语音交互,眼镜形态轻量随身、抬手即用 |
| 华为 Mate 系列 | AI 手机 | 端侧盘古大模型,系统级隐私保护,敏感数据本地处理 |
| 宇树 Unitree 机器人 | 具身智能 | 端侧多模态推理,实时感知与决策,机器人本体即时响应不依赖云端 |
2.4 产品布局与市场热点—高通联发科旗舰与五类终端
芯片侧,高通(第六代骁龙 8)、联发科(天玑 9600 Pro)以旗舰 SoC 卡位,指标见 2.3;终端侧,苹果、三星、华为、小米、荣耀、联想按各自擅长的终端押注,AI 手机、AI PC、AI 眼镜、智能座舱、具身智能五条线全面铺开。
真正值得注意的,是布局上的一个共性转向:厂商都在从"带 AI 功能"走向"系统级智能体"——荣耀"龙虾"、华为盘古、联想混合式 AI、Meta Ray-Ban,强调的不再是单个 AI 功能,而是"端侧能自主理解、决策、执行任务的智能体"。这也是后文判断"哪些玩家能成"的一条关键线索。
2.5 产业政策—端侧芯片攻关、存算一体、国产化替代
政策层面,端侧 AI 被明确写进了产业支持方向——最直接的是工信部、国家发展改革委 2026 年 9 月联合印发的《电子信息制造业发展"十五五"规划》:
- 攻关端侧智能计算芯片、高端存储芯片
- 开发近存计算、存算一体等新型架构
- 研发端侧操作系统和芯片使能软件,完善推理加速引擎等开发环境
- 国产化替代与供应链安全成为重要方向
政策信号很明确:端侧 AI 不只是市场行为,更是产业安全的一部分。这也解释了为什么后面国产芯片厂商的动作这么密集。
三、客户需求挖掘—终端厂商与用户两个层级的痛点
市场在放量,但真正的"刚需"是什么?从直接客户(终端厂商)和终端客户(用户)两个层级来看。
3.1 直接客户需求—五类终端厂商的痛点与增值点
| 客户类型 | 核心痛点 | 端侧AI的增值点 |
|---|---|---|
| AI 手机厂商 | 本地大模型运行能力不足、功耗高、发热 | 端侧 NPU 算力提升、能效比优化、端云协同方案 |
| AI PC 厂商 | 续航与性能平衡、AI 功能差异化 | 低功耗 NPU、本地推理能力、混合式 AI 架构 |
| AI 眼镜厂商 | 重量、续航、算力三者难以兼顾 | 超低功耗 SoC、轻量化模型部署、端侧实时推理 |
| 智能汽车厂商 | 座舱 AI 体验、智驾实时性、供应链安全 | 车规级 NPU、端侧多模态推理、国产化方案 |
| 具身智能厂商 | 实时多模态推理、功耗与散热约束 | 端侧 VLA 模型部署、低延迟推理引擎 |
五类终端厂商的痛点各不相同,但有一个共性:都在"算力"和"功耗/散热"之间做取舍——AI 要算力,但终端有功耗和散热的硬约束。
3.2 终端客户需求—隐私、低延迟、离线、降本、续航
终端用户(最终消费者)的需求,更直接:
| 需求 | 说明 | 具体使用案例 |
|---|---|---|
| 隐私敏感 | 个人数据本地处理不上传 | 手机相册人脸/物体整理、健康数据、企业机密文档本地处理 |
| 低延迟 | 实时响应,云端来回就卡 | 同声传译、语音助手、拍照/录像实时增强 |
| 成本敏感 | 云端调用费高,端侧长期更省 | 每天高频调用的写作/问答助手,长期用端侧更划算 |
| 离线可用 | 无网/弱网也要能用 | 飞机、地铁、地下车库里的离线翻译与语音交互 |
| 续航与发热 | 不能牺牲续航和手感 | 全天候常开的智能体、眼镜类可穿戴设备 |
注意最后一条:用户要端侧 AI 的"快、私、离线",但绝不要"发热、耗电"。这条约束,直接决定了端侧 AI 的竞争焦点是"能效比"而不是"峰值算力"。
综合两个层级的需求,可以判断优先级:低延迟、隐私敏感、云端成本高的场景,端侧 AI 刚需最强;AI 手机、AI PC、AI 眼镜、智能座舱,是当前需求最明确的四类终端;具身智能是重要增量,但落地节奏晚于消费电子。这个优先级判断,是后面分析"谁成功"和"机会在哪"的基础。
四、竞争对手分析—芯片格局、技术路线、生态与供应链
需求明确了,再看供给侧的竞争格局——谁在做什么、用什么路线、生态和供应链是什么状态。
4.1 芯片厂商竞争格局—高通联发科苹果与国产三强
| 厂商 | 核心方案 | 制程 | 关键指标 | 市场表现 |
|---|---|---|---|---|
| 高通 | 第六代骁龙8 | 2nm | 300 亿 MoE、NPU 增 Transformer 加速器 | 手机 SoC 份额 23%(全球第二),汽车座舱 SoC 出货领先 |
| 联发科 | 天玑 9600 Pro | 2nm | 双 NPU、常开 AI 功耗降 40%、多核功耗降 61% | 手机 SoC 份额 31%,连续六年第一,天玑系列高端突破 |
| 苹果 | A/M 系列 | 3nm/2nm | 神经网络引擎、端侧大模型 | 高端市场主导,自研芯片 + 系统闭环生态 |
| 瑞芯微 | RK182X | — | 支持 3B/7B LLM,300+ 客户项目 | 已量产,机器人主控国产份额领先,协处理器路线 |
| 炬芯科技 | 存内计算 NPU | — | 6.4 TOPS/W@INT8,第二代 7.8 TOPS/W | 已商业化,能效比差异化路线 |
| 芯原 | Coral NPU IP | — | 联合谷歌推出,面向可穿戴和泛在感知 | 开源生态早期,IP 授权模式 |
格局一眼就能看出两条线:国际大厂拼制程和生态(高通/联发科/苹果),国产厂商拼差异化路线(瑞芯微协处理器、炬芯存内计算、芯原开源 IP)。
4.2 技术路线对比—协处理器、存内计算、数据流、开源IP
| 路线 | 代表厂商/型号 | 核心优势 | 成熟度 |
|---|---|---|---|
| 单芯片集成 NPU | 高通骁龙8(2nm、300 亿 MoE)/ 联发科天玑 9600 Pro(2nm、双 NPU) | 成本可控,系统集成度高 | 量产 |
| 协处理器/独立 NPU | 瑞芯微 RK182X(20 TOPS、3D 堆叠 DRAM、支持 3B/7B LLM) | 灵活叠加,PCIe/USB 互联 | 量产 |
| 存内计算(CIM) | 炬芯科技(6.4 TOPS/W@INT8,第二代 7.8 TOPS/W) | 突破内存墙,能效比突出 | 商业化初期 |
| 开源 NPU IP | 芯原 Coral(面向可穿戴和泛在感知) | 降低门槛,生态开放 | 早期推广 |
| 数据流架构 | 国产差异化路线 | 同工艺节点能效数倍提升 | 研发/验证 |
存内计算(CIM,Computing-In-Memory):把计算单元直接放进存储器内部,数据不用在存储和计算单元之间来回搬运,从根上突破"内存墙"(数据搬运的能耗瓶颈),能效比可提升数倍。
五条路线,本质是在回答同一个问题:怎么在有限功耗下塞进更多 AI 算力。国际大厂选"单芯片集成"(成本可控),国产厂商选"协处理器/存内计算/开源 IP"(差异化突围)。
4.3 国产端侧芯片格局—营收高增、恒玄6nm、政策加速
国产厂商在加速:
- 2026 年 Q1 端侧 SoC 厂商营收高增:星宸科技(+49%)、全志科技(+47%)、瑞芯微(+36%)
- 恒玄科技推出 6nm 智能可穿戴芯片 BES6100 系列,集成 Wi-Fi 6、蓝牙 7.0、多核 NPU 与 GPU
- 政策支持存算一体、近存计算,国产化替代加速
国产厂商的高增长,背后是"国产化替代 + 差异化路线"的双重驱动——不是在正面硬拼制程,而是在协处理器、存内计算这些细分路线上找机会。
4.4 生态竞争—AIOS联盟、RISC-V开源、碎片化突出
生态侧的格局:
- 安谋科技发起开源 AI 操作系统联盟 AIOS,发布"周易"X3-Pro NPU 架构
- RISC-V + 开源 NPU 生态正在形成
- 谷歌 Coral NPU IP 面向可穿戴和泛在感知,降低端侧 AI 门槛
但生态的现状是碎片化:
- 生态分布:主流仍是厂商私有 NPU 生态(高通/苹果/华为各自闭环),开源生态(RISC-V、Coral、AIOS)刚起步
- 当前阶段:从"厂商私有生态"向"开源 + 联盟"过渡的早期,尚未形成统一标准
- 业界应用:端侧 AI 应用以厂商自研为主,跨平台开发者生态尚未成熟
4.5 供应链竞争—存储涨价、HBM转向、封装散热压力
供应链的压力,是这轮调研里容易被忽略、但影响很大的一条:
- 三星、SK 海力士将 80% 以上先进产能转向 HBM(高带宽内存,3D 堆叠 DRAM,主要用于 AI 训练/高端计算),挤压移动端存储产能
- 2026 年 Q2 移动 LPDDR4/5 价格较 2025 年 Q4 上涨约两倍
- DDR5 颗粒现货价半年间由 4.1 美元涨至 24 美元
- 内存短缺与封装散热需求升高,正压缩终端部署节奏
存储涨价这条,直接影响端侧 AI 的落地节奏——模型要上端侧,得先有足够的内存放权重;内存涨两倍,成本压力就传导到终端厂商。
五、信息分析—四个"为什么"背后的拐点逻辑
收集完信息,这一章开始提炼判断。先回答引言提出的三个问题——前两个问题(是不是拐点、瓶颈在哪)展开成下面四个"为什么",第三个问题(晚不晚)在 5.1 的收尾给出答案。
5.1 关键数据逻辑—四个"为什么"解释拐点与矛盾
5.1.1 为什么 2026 年是拐点
“端侧 AI 是真拐点还是概念”,答案是拐点,证据有三条:
- 三大终端同时放量:AI PC 渗透率过半、AI 手机渗透率 53%、AI 眼镜单季 +776%——不是某一个终端热,是全线起量
- 芯片、模型、生态三线同时成熟:2nm 旗舰芯片量产、300 亿 MoE 上手机、端云协同成为共识
- 市场 CAGR 39.6%:这是拐点式增长,不是线性爬坡
三条证据里,第二条最关键——拐点的本质,是"能跑大模型的芯片"和"能上端侧的大模型"第一次同时到位。之前有芯片没模型(跑不了大模型),有模型没芯片(塞不下),2026 年两者第一次碰上了。
5.1.2 为什么能效比取代峰值算力
“瓶颈在算力、模型还是生态”,第一个答案是:瓶颈不在峰值算力,在能效比。
- 内存墙:内存访问能耗可达单次 MAC 运算能耗的 200 倍——算力再高,数据搬不动也是白搭
- 散热约束:超过六成端侧 AI 芯片在 6W 功耗红线内跑不动 70 亿参数以上模型
- 续航约束:端侧 AI 不能以牺牲续航为代价
结论很明确:每瓦 Token 产出成为核心指标,能效比不是"更好",而是"必须"。这解释了为什么联发科多核功耗降 61% 能成为卖点,为什么炬芯的存内计算 7.8 TOPS/W 值得关注——它们在赌的,就是这个"能效比"的赛道。
5.1.3 为什么端云协同是长期架构
第二个答案:瓶颈也不在"端侧 vs 云端"的二选一,因为端云协同才是长期架构。
- 端侧:实时感知、隐私保护、低延迟、离线可用
- 云端:算力优势、复杂任务处理、模型迭代
联想提出 80% Token 本地、20% 云端;荣耀"龙虾"简单任务 100% 端侧。结论:端云不是二选一,是分工协同——简单的、隐私敏感的、要实时的在端侧,复杂的、要强算力的在云端。
5.1.4 为什么跨设备协同要到 2027–2028
第三个答案:瓶颈还有一部分在生态。
- 端侧 AI 仍是新事物,跨厂商协作需要标准和时间
- 高通孟樸判断:跨设备智能体协同 2027–2028 才逐步落地
- 生态碎片化:NPU 厂商各自为战,运行时框架不统一
结论:单设备推理能力快速就绪,跨设备生态仍是瓶颈。所以现在买的"AI 手机"“AI PC”,单个设备能跑 AI,但"手机和 PC 协同"这件事,还要等到 2027–2028。
回到第三个问题——现在关注是不是太晚。答案是:不晚,但窗口期只有 12–18 个月。依据正是前面几条的交叉:拐点已经发生,但渗透率刚过半、AI 眼镜才刚起步,赛道还在"从 1 到 10"的早期,尚未固化,此时进场仍有卡位机会;而跨设备生态要到 2027–2028 才成熟,意味着 2026 下半年到 2027 年底是"单设备已就绪、生态未固化"的窗口期。等生态成熟、格局定型之后再进,就只能做跟随者。
5.2 谁成功了—高通、联发科、瑞芯微、炬芯的差异化
这一节看四个成功样本——它们各自的成功点、为什么成功、以及能借鉴什么。(苹果是"自研芯片 + 系统闭环"的封闭生态,可借鉴性低,故不单列。)
| 厂商 | 成功点 | 为什么成功 | 可借鉴 |
|---|---|---|---|
| 高通 | 第六代骁龙 8 率先实现 300 亿参数 MoE 手机端落地 | NPU 架构持续投入 + 与模型厂商深度合作 + 生态整合能力 | 端侧 AI 竞争不是单点芯片竞争,是"芯片 + 模型 + 生态"的系统竞争 |
| 联发科 | 手机 SoC 份额 31%,连续六年第一;天玑 9600 Pro 多核功耗降 61% | 抓住能效比这个核心矛盾,双 NPU 架构 + 智能体 AI 引擎 | 在正确的时间押注正确的技术路线 |
| 瑞芯微 | RK182X 已量产,支持 3B/7B LLM,300+ 客户项目 | 选择协处理器路线,灵活叠加,降低客户采用门槛 | 不是所有玩家都要做旗舰 SoC,协处理器方案有明确市场空间 |
| 炬芯科技 | 存内计算 NPU 能效比 6.4 TOPS/W,第二代 7.8 TOPS/W | 选择非主流路线,在能效比上形成差异化突破 | 同工艺节点下,架构创新可以实现数倍能效提升 |
看这四个样本,会发现一个规律:它们都在"应对某个挑战"——高通应对"模型规模"、联发科和炬芯应对"能效比"、瑞芯微应对"生态门槛"。但它们只解决了部分挑战,还有一些挑战是它们(乃至整个行业)都没解决的。这就是下一章要讲的。
六、发展方向与机会点—挑战指向的方向与机会
6.1 主要挑战—五大矛盾制约端侧AI落地
把前面的信息收拢,端侧 AI 面前有五大挑战:
| 挑战 | 表现 | 影响 |
|---|---|---|
| 内存带宽 vs 峰值算力 | 内存带宽而非峰值算力是端侧推理根本约束 | 选型不能只看 TOPS |
| 散热功耗 vs 模型规模 | 6W 红线内跑不动 70 亿参数以上模型 | 模型轻量化是关键 |
| 碎片化 vs 生态统一 | NPU 厂商各自为战,开发者选择困难 | 生态标准急需建立 |
| 端侧能力 vs 跨设备协同 | 单设备推理就绪,跨设备协同滞后 | 2027–2028 才是生态成熟期 |
| 需求增长 vs 供应链约束 | 存储涨价、先进封装紧张、散热压力 | 部署节奏被压缩 |
这五大挑战,每一条都指向一个明确的方向或机会——下面拆开看。
6.2 技术演进方向—挑战指向的技术走向
| 挑战 | 技术演进方向 |
|---|---|
| 内存带宽 vs 峰值算力 | 存内计算/近存计算,突破内存墙 |
| 散热功耗 vs 模型规模 | 模型轻量化(量化/蒸馏/剪枝)+ 端云协同分工 |
| 端侧能力 vs 跨设备协同 | 跨设备协同标准,2027–2028 成熟 |
三个技术方向,前两个是"现在就能做"的(存内计算、模型轻量化),第三个是"等标准"的(跨设备协同)。
6.3 市场机会点—挑战带来的机会空间
| 挑战 | 市场机会点 |
|---|---|
| 碎片化 vs 生态统一 | 开源 NPU 生态、统一标准(协处理器方案降低门槛) |
| 需求增长 vs 供应链约束 | 国产化替代、供应链多元化(差异化路线) |
两个市场机会,一个是"生态侧"(谁先统一标准谁占先),一个是"供应链侧"(国产化替代的窗口)。
七、总结—认知刷新与核心结论
7.1 五个重要观念的变化
这次调研,修正了我五个观念:
- 观念一:端侧 AI 的竞争力不在峰值算力,而在能效比、内存带宽与生态协同
- 观念二:端侧能跑的模型远超预期,300 亿 MoE 已上手机,量化压缩速度惊人
- 观念三:端云不是二选一,而是长期协同架构
- 观念四:窗口期只有 12–18 个月,2026 年已是拐点,不能再等
- 观念五:竞争力不只取决于芯片参数,生态和供应链同样决定成败
7.2 结尾—拐点已在发生,竞争在能效比与生态
回到开头那三个问题:
- 端侧 AI 是真拐点还是概念?——是拐点,已经在发生
- 瓶颈在算力、模型还是生态?——在能效比(内存墙)和生态(碎片化),不在峰值算力
- 现在关注晚不晚?——不晚,窗口期还有 12–18 个月
一句话总结:端侧 AI 的拐点不是"会不会来",而是"已经在发生";真正的竞争不在峰值算力,而在能效比、场景和生态。
参考资料:
- 端侧 AI 市场规模(2025 年 3219 亿元 → 2029 年 1.22 万亿元,CAGR 39.6%):弗若斯特沙利文(Frost & Sullivan)
- AI PC / AI 手机 / AI 眼镜出货与渗透率:IDC、Counterpoint、Canalys 机构报告
- 手机 SoC 市场份额(高通 23%、联发科 31%):Counterpoint
- 高通第六代骁龙 8、联发科天玑 9600 Pro 产品信息:厂商公开产品信息
- 瑞芯微 RK182X、炬芯存内计算 NPU、芯原 Coral:厂商公开产品信息
- 存储芯片价格(LPDDR/DDR 涨价)、HBM 产能转向:行业报告
- 端侧 AI 相关政策(芯片攻关、存算一体、国产化替代):工信部、国家发展改革委《电子信息制造业发展"十五五"规划》(2026 年 9 月)