说实话,当我第一次看到“BabyVision”这套测试结果出来的时候,第一反应不是震惊,是有点想笑。但“顶尖AI竟然输给三岁宝宝”这个结论,最近在开发者圈子里被反复刷屏。我一开始以为又是营销号在制造焦虑,结果自己拿手头某个多模态项目沿着测试逻辑做了个小范围复验,才意识到这事根本不简单。这篇文章我想从“三岁宝宝赢在哪、模型到底是怎么输的”这个角度,把多模态模型的老底拆一遍,也把我跑完测试后调整项目方向的一些真实心得留在这里。
先交代背景:我长期做多模态模型的评测与鲁棒性分析,日常跟视觉问答、组合泛化这类任务打交道。BabyVision测试并不是常规的“看图说话”数据集,它的原始底子来自某儿童认知实验室的长期追踪实验,后来被某个评测社区改造成了一套给大模型用的小任务集。核心逻辑非常直接:把三岁儿童基本能轻松完成的感知与推理任务,原封不动地交给多模态模型去完成,看模型能不能复现出这种“儿童级”的认知能力。结果大家也看到了,集体翻车。
这篇文章不打算报某家模型的具体分数,我只想把下面几件事搞清楚:三岁孩子的认知表现背后到底藏着什么能力?多模态模型的硬伤出在底层哪个环节?我们天天喊着“智能涌现”,为什么连一个三岁孩子的基础物理直觉都补不上。如果你也想搞清楚“模型为什么那么聪明又那么蠢”,这篇文章应该能给你一个不一样的视角。
1. 先把BabyVision测试的底裤看清楚
1.1 不是给AI设计的任务,是从儿童认知科学里搬来的
很多人误以为BabyVision就是普通的目标识别或者图像分类变体,这是最典型的误解。真实的BabyVision测试,是一套从发展心理学的经典实验里改造出来的任务集。生成它的团队做过大量婴幼儿视觉注意实验,记录的是婴儿在什么年龄段开始理解“物体即使被挡住也还存在”“球会沿着斜坡往下滚”“妈妈叫名字时会回头”这些基础认知能力。
把这类测试改造成AI评测,意味着任务本身带着浓厚的认知发展色彩。测试里几乎不考“这是什么物体”这种低级感知题,而是考“物体被遮挡后,模型是否知道它还存在于那个位置”“如果一个支撑物被移走,上面的东西会不会掉下来”“一个角色看向某个方向时,模型能不能推测出他的意图”。这些问题对三岁小孩来说几乎不需要思考,但多模态模型反而会给出非常离谱的答案。
这里有个关键点值得先说清楚:类似测试单看任务形式,跟普通视觉问答题没有太大差别,都是给图片或视频,然后让模型输出一个回答。但任务背后的认知负载完全变了。普通视觉问答更多是“记忆检索”和“模式匹配”,而BabyVision的题目设计遵循的是“恒常性”“因果性”“意图归因”这些底层认知维度。一个模型如果只是学会了图像的表面统计规律,在这里会暴露得一干二净。
1.2 任务分类与基础逻辑拆解
我仔细跑完测试后,把任务归纳成了四个维度。这套分类是我自己整理的,不一定和官方文档完全一致,但能帮你快速理解模型的弱项分布:
| 能力维度 | 代表性任务 | 三岁儿童的预期表现 | 多模态模型的常见表现 |
|---|---|---|---|
| 物体恒常性 | 玩具被遮挡后,推断玩具还在原处并继续运动 | 能基于遮挡前的轨迹预测物体位置 | 经常直接认为物体“消失”了 |
| 物理直觉 | 判断斜坡上的球是否会滚落、积木堆是否会倒塌 | 基本能给出符合真实物理的结果 | 在复杂场景中靠纹理猜测,稳定性极差 |
| 跨模态绑定 | 听到某个声音,在视觉场景中定位发出声音的物体 | 能完成视听匹配 | 音频和视频各自被编码后缺乏联合推理 |
| 意图与心理归因 | 看到一个人伸手朝某方向抓取,判断他想拿什么 | 能根据动作方向与目标物体关系推断意图 | 经常只关注手部动作本身,忽略目标物 |
这个表看下来你会发现,多模态模型的失败模式不是“某一个任务差”,而是在多个基础认知维度上系统性失灵。尤其值得注意的是,儿童在三岁时并不是“会做了”那么简单,而是这些能力已经内化成自动化的直觉,不需要显式推理。模型对这种自动化的世界常识几乎一无所知。
1.3 为什么“三岁”这个分界线不是噱头
从认知科学角度看,三岁是一个很有代表性的节点。这个年龄段的孩子已经形成了比较完整的物体恒常性概念,对空间关系、物理事件、他人意图也有初步但稳定的判断能力。更重要的是,三岁儿童并不是靠海量标注数据学会这些的,他们有身体、有行动、有试错、有感知运动循环。
如果拿来跟大模型对比,三岁儿童的经验虽然“小”,但非常稠密。一个三岁小孩可能已经完成了数十万次“伸手—抓握—失败—调整”的闭环动作,每次动作的结果都实时反馈到大脑里。而目前的主流多模态大模型,训练时是没有身体、没有动作、没有实时反馈的。模型只是在静态的图像和文本之间学相关性,甚至很多训练样本里图片和文本的对齐质量都很差。所以三岁这个基准选得好,它恰恰站在“有身体经验”和“无身体经验”的分界线上。
我自己跑测试的时候,最强烈的感受是:模型在面对遮挡物、非线性物理、视线追踪这类任务时,并不是“偶尔犯蠢”,而是压根没有一套稳定的世界模型去支撑这些判断。后续我把它的一些失败案例拿来做测试拆解,越看越像是一个“先天没有感知经验的系统”,在硬撑地面推理。
2. 多模态模型到底“输”在哪些具体环节
2.1 物体恒常性:模型不是没有记忆,而是根本没有“存在”的概念
BabyVision里有几道很典型的任务:屏幕上出现一个玩具,然后被挡板挡住,随后挡板平移开,问模型玩具在哪里。三岁小孩看到挡板移开时会预期玩具出现在挡板后面;如果玩具没有出现,他们会明显表现出惊讶。这就是心理学里讲的“违反预期范式”。
我把类似任务喂给某套开源视觉语言模型,结果很有意思。模型能够准确说出“玩具被挡板挡住了”,但当问它“挡板后面有没有玩具”时,它的输出开始模糊和摇摆。在一些更严格的测试里,模型甚至会在挡板完全遮住玩具后,直接丧失对这个物体存在性的判断。这不是算力问题,是模型的目标函数里根本没有“维持物体存在性表征”的要求。
我在项目里做过一个小实验:改成连续多帧视频输入,让模型在时间维度上看到“玩具消失—遮挡—移开”的全过程。效果略有改善,但依然不稳定。当玩具在遮挡期间移动了位置,模型几乎没有能力对“新位置”做出预测。这说明它的推理机制不是基于物理过程的模拟,而是在做表面特征的关联匹配。
说实话,这个现象对做多模态应用的工程师影响非常大。凡是涉及到遮挡、运动预测、物体跟丢重检测的场景,比如机器人抓取、自动驾驶中的盲区目标追踪、监控视频里的跨镜头目标衔接,都会踩到这个坑。你以为模型理解了场景,它其实只是对画面里的可见像素做了分类。
2.2 物理直觉:模型对“力”和“支撑”没有底层感知
另一个令我印象深刻的失败区间是物理直觉测试。有一道任务的设置很简单:几块木块叠在一起,其中一块被抽出,问孩子木块堆会不会倒。三岁孩子通常能给出符合直觉的判断。换成模型就变成了一场“看图猜谜”。
我拿着某套模型试了很多次,它能在图片非常清晰的情况下判断出“上方木块缺少支撑因此会掉”,但只要你把视角稍微换一下,或者增加一点视觉干扰,比如光照变化、阴影杂乱、纹理相似,模型的准确率就会明显下降。它本质上是在用视觉特征(比如边缘、纹理、常见摆放方式)去匹配曾经见过的训练样本,而不是真正理解“重力”“接触面”“支持力”的关系。
这种物理直觉缺失,暴露的是多模态模型普遍缺乏“世界模型”的问题。儿童在三岁时已经具备一个粗略但在线的物理仿真器,他能对“如果……会怎样”给出预测。而大模型的训练是下一词或下一像素预测,物理规律如果不经过大量显式注入,模型根本不会主动习得。就算训练数据里包含大量物理场景图片,模型也只会记住场景的视觉共现,记不住底层的动力学约束。
对实际开发的启示是:不要把“模型认识杯子”当成“模型理解杯子”。如果你想做个家居机器人,让它识别一个杯子远远不够,它还得知道杯子放在桌子边缘可能掉下去、里面装有液体时不能倾斜、玻璃杯掉地上会碎。这些知识需要的是物理仿真和数据闭环,而不是更多图片标注。
2.3 意图理解:模型只会“看见动作”,不会“读懂动机”
BabyVision里还包含了很多社会认知题目。举个例子:画面里出现一个人,伸手去拿桌上的某个玩具,但手和目标之间有一块透明挡板。问:这个人想拿什么?三岁儿童能够根据视线方向和手部动作的朝向,正确推断出目标物。模型的表现则更像是“看到了手才对”的局部模式匹配器。
我测试的模型里,有好几个在回答这一类问题时完全跑偏。有的会错误地把离手最近的物体当成目标,哪怕人的视线明显朝向远处另一个物体;有的则过度关注手的姿态,输出一堆关于“手部动作是什么”的描述,却完全没回答“想拿什么”这个意图问题。
这类失败的深层原因是:模型对“行为序列中的预测性目标”没有建模。在训练数据里,一张静态图片和一个描述文本的关联是稀疏的、不确定的。同一个图片可能被标注为“男子伸手”,也可能被标注为“男子想拿饼干”,甚至有可能是“男子准备离开”。当训练标签本身充满歧义时,模型学到的只能是一个模糊的平均印象,而不是一个稳定的意图判断。
做具身智能、人机交互、辅助驾驶等方向的同学,对这块要有清醒认识。如果模型无法理解“对方在看向哪里、接下来会做什么”,那么它做出的交互决策从根本上就是不可靠的。这种能力不是靠一个更大的LLM就能解决的,它需要更多结构化的行为预测数据和动作的因果建模。
2.4 跨模态绑定失败:视觉和听觉是两套打架的系统
多模态模型的“多”字,很多时候只体现在输入层的拼接。真正到了跨模态联合推理环节,Bug就藏不住了。BabyVision里有一类任务专门测视听绑定:给一段声音(比如玩具发出的响声),同时在画面中出现多个物体,让模型判断声音来源于哪一个。
人类婴儿在很小的时候就能完成这种视听绑定,他们看到发声物体时会下意识地朝那个方向看。但我测过的模型里,很多选择了“根据语言的提示词强行定位”,对真实声学特征的利用非常有限。比如声音明明是左侧玩具发出的,模型会因为右侧物体在训练数据里更常和声音同时出现,就错误地指向右侧。
这说明很多多模态模型的“跨模态”本质上依然是文本中介的推理。模型不是真的在声学和视觉两个模态之间建立对齐,而是把音频特征转成一个弱语义提示,再靠视觉编码器和语言模型去猜。一旦声音本身不包含足够强的语义线索,模型就难以完成绑定。
这类问题对音视频搜索、直播内容理解、智能会议纪要、机器人“循声定位”等产品功能是致命的。如果你正在做类似方向,可以先拿最简单的视听绑定任务给模型做个健康检查,不用等BabyVision全套跑完,就那几道声源定位题,已经足够帮你判断模型是否存在真正的跨模态推理能力。
3. 为什么模型技术上很强,基础认知却这么差
3.1 数据规模不等于经验密度
大模型最引以为傲的就是海量预训练数据,几乎把整个互联网的文本和图片都吞进去了。但“数量大”和“经验密”是两码事。三岁儿童的经验虽然范围很窄,但每一条经验都有物理世界的实时反馈,都是参与互动的结果。模型的经验则是一堆已经拍好的图像和已经写好的文本,没有动作,没有结果,没有“失败了再试一次”的过程。
我举一个特别能说明差别的例子:儿童玩积木时,每搭一块都会感受到重力、平衡、摩擦力这些真实物理量。搭歪了,积木掉下来,他看到了后果,下次会调整。模型看到十万张积木图片,学会了区分三角形、方形、搭建样式,但它永远不知道把一块积木放在错位位置时会发生什么。它只是“从远处看过积木”的观察者,不是“摸过积木”的参与者。
这就解释了为什么多模态模型在“感知任务”上可以超过人的结果,比如识别罕见鸟类、分辨医学影像里的细微病变,但在“预测物理事件结果”这种基础任务上表现如此糟糕。感知任务可以靠记忆大量模式来解决,而物理事件预测需要的是经验反馈和动态建模。没有反馈闭环,模型很难真正理解世界运行的规则。
3.2 缺少“具身”信息,只能做表面关联
具身认知(embodied cognition)在AI研究里是一个被反复讨论但始终没有真正落到主流训练框架里的方向。它的核心观点是:智能来自于身体与环境的交互,而非只存在于大脑的符号运算中。三岁宝宝之所以有强大的基础物理直觉,是因为他有一个能在三维空间里移动身体、抓取物体、感受重力的“实体系统”。
目前主流的多模态模型训练几乎是“离身的”。模型处理的输入是用二维像素表达的图像,以及从图像里提取的文本描述。三维空间信息从一开始就被模型不可逆地压扁了,更别提触觉、动觉、重力感这些模态。就算用多视角图像做3D重建,也只是在几何层面补齐了点云坐标,并没有补齐“如果我推一下它,它会怎么动”这种交互经验。
我实际测试过一套带视频输入的模型,它在看了一段杯子被推下桌子的视频后,能够准确描述出“杯子掉到地上碎了”这个事件。但你把这个任务换成“把杯子放到桌子边缘但还没掉下去,再问它会不会掉”,模型就答得非常犹豫了。原因也是同一个:它见过很多“结果导向”的训练文本,但对“临界状态下的物理预测”没有形成稳定的推理能力。缺少具身交互,意味着模型能描述世界,却不容易理解世界的约束条件。
3.3 评测指标在“放水”,模型靠语言惯性混分
除了模型本身的问题,我还想吐槽一下评测方式。目前很多多模态基准测试,问的是“这是什么”“图中有什么”“正在做什么”这一类偏感知和描述的问题,模型很容易通过语言统计规律去混分。即使它对图像内容理解不深,也能靠训练阶段记住的文本规律给出一个“看起来合理”的回答。
BabyVision这类测试相对严格的地方,在于它的问题和图像之间的关系不是表面描述性的,而是需要模型做出真实的认知推断。比如“这个人接下来会去哪”“玩具在哪里消失的”“要把球滚到目标位置,哪条路径是可行的”,这些问题没法靠语言惯性蒙混过关,必须真正理解场景中的空间结构和因果链条。
我在自己项目里对比过,同一个模型在不同测试集上的得分能差出一倍。常规视觉问答集表现惊艳,一到BabyVision就塌方。这种“挂羊头卖狗肉”的评测结果,其实一直在误导我们。模型可能实际能力仍然很弱,只是在特定题型上表现好,让我们误以为它已经接近通用智能。
4. 怎么让模型补上“三岁之前的课”
4.1 从“看图说话”升级为“世界模拟器”
既然多模态模型的缺陷在于缺少世界模型,那补课的方向就很清晰了:让模型学会对物理状态做动态预测,而不只是对输入做静态描述。一种可行路线是给模型加一个“内部世界模拟器”,训练它基于当前场景预测下一步状态。
我在实际项目里尝试过一个轻量改动:在传统视觉语言模型之上加一个辅助预测头,输入当前帧和动作指令,输出未来几帧的语义状态变化。比如“把杯子往左移5厘米”之后,杯子的新位置、遮挡关系、桌面支撑关系会发生什么变化。训练数据不需要完全真实物理仿真,而是直接用合成渲染引擎生成大量有动作标签的序列画面。
这个做法的效果很直接,模型在面对“如果……会发生什么”的问题时,准确率有了明显提升。关键原因在于,预测头强制模型内部建立一个连贯的因果表征,而不是只对图像做静态标签分类。你不需要让这个预测头做到物理仿真级的精确度,只需要逼着模型把“空间变化”“遮挡重建”“相对位置关系”这些强制编码进特征空间,就已经能补齐很大一块基础认知短板。
4.2 用“加一个反向测试”来检验真实理解
很多人在评估多模态模型时,只关心“正向预测”准不准,很少做“反向干预”验证。我认为这是评测设计里最值得改的一个点。BabyVision给了我一个重要启发:真正理解物理关系的系统,应该能在“如果条件改变,结果会不同”的反事实问题下做出正确答案。
举个例子,与其只问模型“杯子掉下去会碎吗”,不如再补问一句:“如果杯子下面有厚地毯,它还会碎吗?”这两种问法看似相近,但后者需要模型对材料、高度、支撑这几个变量做因果干预推理,难度不在一个层次上。我跑测试时发现,大量模型在正向问题上表现尚可,在反向干预问题上崩溃。这说明模型可能只是在记忆“杯子掉地上会碎”这个文本关联,而不是真的理解“硬度”“高度”和“损坏”之间的因果关系。
给大家一个可以直接用的评估技巧:构造每个问题的时候,主动更改一个关键物理条件,比如去掉重力、换成零摩擦、改变物体材料属性,然后看模型回答的分布变化是否合理。如果回答不变,说明模型根本没有调用物理规律,只是在做语言惯性的接龙。这个技巧也可以用在你自己的模型开发里,作为判断是否真正学到物理常识的快速探针。
4.3 引入交互式数据闭环,而不是简单加视频
你可能觉得,既然模型缺经验,那把大量视频塞进训练不就行了。这个思路有道理,但实际操作时很容易翻车。因为视频数据本身没有“动作—结果”的对齐信号。一段视频里杯子掉了,模型看到这个画面,但不知道中间哪一帧是因为哪个动作导致的,更不知道如果有不同动作会不会有不同结果。它顶多学到一个表象序列。
更好的做法是引入交互式数据闭环。我见过某实验室做机器人抓取相关任务时,不是仅仅给模型看抓取视频,而是让模型控制一个虚拟代理去做随机动作,同时记录动作、场景状态、结果之间的三元组。模型通过成百上千次“推一下—看到位移—掉下去—知道支撑不够”这样的闭环过程,逐渐形成对物体行为的预测能力。
这种交互式数据不需要真实机器人,使用物理引擎合成数据也可以。关键在于数据里要包含“干预—反馈”结构,而不是只有观察序列。我后来做自己的小项目时,也采用了类似策略,将一部分合成交互数据注入训练集,模型在BabyVision类物理任务上的表现提升远超直接加视频数据的对照组。
4.4 别把BabyVision本身塞进训练集
说到这里,还要提醒一句:不要把BabyVision的测试样本直接塞进训练集。很多人看到模型分数低,第一反应是“把这些任务编成训练数据再练一遍”,这是非常典型的刷榜思维。BabyVision本身只覆盖了几十上百个任务模式,模型背会了这些题目,分数立刻提升,但真实世界中的认知能力没有任何增长。
这就像让小孩只背会了一道题的答案,却不教他触类旁通。测试的价值应当是暴露能力缺陷,指导你设计更通用的训练目标,而不是让你去针对测试做数据补盲。我自己跑评测时发现,模型在训练集外的同类任务上依然不稳定,证明这种“刷数据补漏”方法只会制造更大的虚假安全感。
过拟合测试的问题在社区里已经不是什么新鲜事,但面对BabyVision这种“看似简单、实则深层”的测试时,尤其容易让人产生误判。模型分数提高了,不要高兴太早,一定要做跨任务泛化测试。
5. 常见误解与避坑清单
5.1 “换更大模型就能解决”是最大的幻觉
很多人看到模型在BabyVision上的失败,第一反应是“等下一代大模型出来就好了”。但我认为单纯扩大参数量和训练数据,解决不了这些基础认知缺陷。原因很简单:如果在目标函数和训练流程里没有加入对物理因果、物体恒常性、意图推理的约束,模型就算扩大十倍,学到的也只是更多表面关联。
我实测过不同参数规模的模型,在小规模物理直觉任务上的表现差异远小于同规模范围内的随机波动。也就是说,增长模型尺寸对这类问题的边际收益非常有限。真正起作用的是训练目标、数据结构和评测方向的改变。把“大”当成解药,只会让团队在错误的方向上投入巨额资源。
5.2 “用婴儿学习数据训练”本身就是伪命题
还有一种常见思路:把孩子三岁前接收到的视觉和听觉数据录下来,喂给模型训练,认为这样模型就能获得婴儿一样的认知能力。这个想法听起来很符合直觉,但忽略了一个根本问题:婴儿的学习并不仅仅是接收数据,而是每个数据都伴随着身体行动、感觉反馈以及内部动机。你录下一万个注视视频,但模型没有“伸手抓取”的动作指令,也没有“被抓到”的触觉反馈,这些视频对模型来说只是一堆空洞的图像流。
我见过某项目尝试做类似的事情,效果并不理想。视觉数据量增加之后,模型对目标的识别确实更准了,但在推理“物体是否会运动”“人的动作意图是什么”这些问题上几乎没有进展。没有行动闭环,“看见”永远不等于“理解”。
5.3 评测时容易被语言表达误导
我再补一个只有实际跑分的人才会踩到的坑:不要让模型用自由文本回答,尤其是中文环境下,模型很容易生成一段语义模糊的描述,让你误认为它在“思考”。评测BabyVision类任务时,尽可能将答案设计为结构化选项,比如“A是/否”“B在物体左侧还是在右侧”“C会发生/不会发生”,这样能大大减少语言表达带来的混淆。
我在跑测试时就发现,部分模型的自由文本回答包含正确关键词语,比如“会掉下来”,但当把它改成判断题时,同样的模型在多个平行样本上给出错误判断。这说明它并不是坚定地理解物体掉落,而是通过语言生成习惯近似地“说对”了答案。判定式评测比生成式评测更能暴露真实的认知能力。
5.4 关注失败模式比关注分数更重要
最后一条心得是:不要只看总正确率,要仔细看错误样本的分布。BabyVision测试里有一些模型看似总分不错,但仔细分析后发现,它只是把简单任务全部做对,而把物理预测、意图推理、跨模态绑定这些硬任务全部蒙错。整个分数被简单任务的正确率拉高了,掩盖了核心能力的缺失。
我建议在项目评测里做“分层错误分析”:把错误样本按能力维度分组,逐块看模型的混淆模式。比如物理直觉任务里,模型是不是总是倾向于“忽略重力”而不是“错误计算速度”?如果模型总是“把所有物体都判为会倒塌”,那你面对的就不是某个参数调优问题,而是一个系统性的认知偏差。这种偏差往往需要从训练目标层面调整,而不是靠微调几步就能解决。
6. BabyVision给我在项目实践里的几个真实触动
说实话,BabayVision的影响不止是让我对模型能力有了更清醒的认识,它还直接改变了我自己项目的技术选型思路。这里分享几个我在实际项目里做的调整,你可以拿去参考。
第一,凡是涉及“检测到物体后还要对它未来状态做判断”的功能,我会在模型之上专门接一个轻量物理预测模块,而不会单纯依赖多模态大模型的口头输出。比如做智能仓储的盘点机器人,视觉识别出货架上有几个箱子远远不够,必须再叠加箱子的堆叠稳定性判断、取走底部箱子之后是否会倒塌等预测。这一层判断交给专门的物理推理模型,比依赖通用大模型稳定得多。
第二,在做数据采集时,我会刻意保留“动作前后”的成对数据。很多公司采集数据时只拍静态场景图,标签也是静态的,这对训练感知没问题,但一旦要训练预测性任务,就缺乏关键的状态变化标注。现在我在团队里推动了一个不成文的规定:每个静态数据采样点,至少补一张“执行标准动作后”的状态图,让模型有机会学会事件转移,而不只是状态识别。
第三,评估报告里增加了“反事实检验”栏目。每次给模型做能力体检时,不只评测“这个场景里发生了什么”,还会人为改写一两个条件去问“如果这里没有支撑物,会发生什么”“如果光源在另一个方向,物体的阴影会变化吗”。模型在这些额外问题上的稳定性,已经变成我判断它是否真有场景理解能力的重要依据。
我自己遇到过一个挺典型的案例:在某实验室的协作机器人项目里,机器人的视觉系统原先用某多模态大模型做目标识别和堆叠判断,线下测试单看识别准确率接近满分。但是一到真实场景,机器人把一摞箱子从托盘移到货架时,总是高估箱子的重心稳定性。后来我排查后发现,识别模型对“静止箱子在图像里呈现的样子”学得很好,但在“箱子即将翻倒”的状态预判上几乎完全失效。这个案例没有用BabyVision去测,但问题模式跟BabyVision里的物理直觉任务如出一辙。
最后说一点个人的感受。AI圈子里总有一种迷之自信,觉得只要把模型做大、把算力堆高,通用智能迟早会出现。但BabyVision这条测试路线像一个冷水头,直接提醒我们:一个系统即使能写出优美的文章、能画出入微的图像、能回答复杂的数学题,它依然可能不具备一个三岁孩童对真实世界最基本的理解。孩子知道物体背后还有物体,知道推一下东西会倒,知道有人望向你时可能是在找你。这些能力看起来太普通,普通到我们根本不会称之为“智能”,但恰恰是这些“普通”构成了我们对世界理解的底座。
所以如果你手头正在做多模态相关的工作,我的建议特别简单:花一个下午,找一批遮挡、物理预测、意图判断、视听绑定这类基础任务,先给你的模型做个体检。真实的分数不一定好看,但这份“不好看”远比一个漂亮又没用的指标有价值。它至少会告诉你,模型离理解世界还差着几个“三岁”的距离。