今天AI圈最大的新闻,微软公布了自研尖端模型MAI-Base-2。官方说法很猛:在多项核心基准上超过OpenAI的主流模型,训练和推理用的算力只要对手的四分之一。
先把事实摆出来,都是10月20日媒体报道里的。MAI-Base-2是个MoE混合专家模型,总参数2.8万亿,推理时实际激活800亿。训练用了1.6万块GB200,跑了38天,吃了50万亿token。微软自己的评测里,它在代码、问答、数理科学任务上超过了Kimi K3这类开放权重模型。预训练浮点运算量,比DeepSeek-V4-Pro-Base省4到12倍,比自家上一代MAI-Base-1省6到12倍。
限定词先说清楚:这些数字全是微软自称,第三方还没独立验证。看新闻先看信源,别把发布会PPT当论文读。
但方向是对的:大模型竞争的主战场,从"谁参数大"变成了"谁用得省"。2.8万亿参数听着吓人,实际干活的只有800亿,这就是MoE的精髓:养一群专家,每次只叫醒相关的几个。参数是面子,激活参数才是里子。
这事对我们做应用的人有三个直接影响。第一,推理成本还要降。激活参数少,跑一次便宜,Agent那种动不动调几十次模型的玩法,账单压力小多了。第二,长上下文和智能体任务会变多,便宜了才敢玩花的。第三,选型别再唯参数论,以后看"每token多少钱、每分性能多少钱"。
微软的战略意图也明显。从OpenAI的"好队友"到自研两代模型,6月出了MAI-Base-1,这次是Base-2,微软在摆脱单点依赖。模型自己训,推理自己跑,云上直接卖。OpenAI负责AGI故事,微软负责把账算平,分工越来越清楚。
同场还有几条值得记的消息。Anthropic被曝在开发新模型,主攻"理解模糊指令":用户说不清楚要什么,模型自己推断意图。The Information的联合创始人猜测可能叫Fable 5.5,官方没确认。要是真成了,提示词工程得变天,以后不用反复打磨提示词了。英伟达用8192块GH200做了104量子比特的容错量子计算模拟,量子这条线英伟达也在下注。亚马逊开源了TorchNeuron,帮开发者把PyTorch代码从英伟达GPU迁到自家Trainium芯片,改一行配置就行,挖CUDA墙角的意思很明显。
还有一条有意思的:Accenture把员工的Claude补助降到每月29美元,之前有些重度用户一个月能烧掉上千美元。Meta也把用Claude Code的人数从6万砍到3万。大厂都在算AI的账,效率这件事,从模型厂商一路传导到用模型的企业,谁都躲不掉。
回到MAI-Base-2。模型还在后训练阶段,先整合进微软自家产品,后面通过Foundry市集对外提供。想上手玩的,等Foundry上架再说。
我的判断:效率路线会越走越宽。以后大新闻不再是"我们训了个更大的",而是"我们用更少的算力做到了同样的事"。做RAG、做Agent的人,红利在后面。
收藏这篇,效率模型的选型逻辑以后会反复用得上,省得每次重新查。
下期AI话题见。关注我,模型圈的新进展第一时间给你拆明白。
讨论时间:你觉得"参数大"和"用得省",哪个对实际做应用的人更重要?评论区站个队。
—— Cyrus