文章目录
- 前言
- 1. Halos 到底是啥
- 1.1 出场方式
- 1.2 认证这事得掰开揉碎
- 2. 拆开看这套蓝图
- 2.1 组件一览
- 2.2 谁在设卡
- 2.3 系统配置
- 3. 盲区:大家全在看后视镜
- 3.1 SAIM 的逻辑很清晰
- 3.2 渐变型退化三兄弟
- 3.3 真正没人管的是老三
- 4. 为什么没人做:不是智商问题,是钱的问题
- 4.1 时间的两种写法
- 4.2 技术其实不缺
- 4.3 真正卡住的是"在线自改基线"
- 5. 解法:别只卷刹车,装个仪表盘
- 5.1 加一层轨迹估计器
- 5.2 状态机管刹车,轨迹层管仪表盘
- 6. 升一层:安全边界是份时变合同
- 7. 标准界也在动
- 8. 结语
P.S. 无意间发现了一个巨牛的人工智能教程,非常通俗易懂,对AI感兴趣的朋友强烈推荐去看看, 传送门https://blog.csdn.net/HHX_01
前言
先放结论,不绕弯子:NVIDIA Halos for Robotics,是我见过最会"踩刹车"的安全架构。该停的时候它绝不犹豫。但你问它"现在还剩多少安全余量",它大概率一脸茫然。
翻译成人话:Halos 有刹车,没仪表盘。就像一辆 ABS 一流但油表坏了的车——能开,但你永远不知道自己什么时候会趴窝在半路。
1. Halos 到底是啥
1.1 出场方式
2026 年 6 月 22 日,NVIDIA 官宣 Halos for Robotics。阵容很整齐:IGX Thor 硬件 + Halos OS 系统 + Outside-In Safety Blueprint 安全蓝图 + Inspection Lab 检测实验室,四件套打包上桌。
这里有个细节容易踩坑:Agility 的合作是把 Halos 装进下一代(第五代)Digit,不是你现在在仓库里看到的那台。就像游戏出续作,前作玩家先别急着高兴,你的角色不继承存档。
1.2 认证这事得掰开揉碎
车载语境下,TÜV SÜD 认证的是 DriveOS / Thor-X SoC,部分构件达到 ASIL D。机器人这边,检查方换成了 TÜV Rheinland,IGX 的 Safety Island 是 SIL 3 capable。
重点圈起来:capable 是"有这能力",不等于"已经拿证"。相当于简历写"精通英语",HR 信不信是另一回事。
倒是 Inspection Lab 实打实拿到了 ANAB 的 ISO/IEC 17020 检验机构认可,这个证是硬通货。
2. 拆开看这套蓝图
2.1 组件一览
| 组件 | 职责 |
|---|---|
| SIPP(Sensor Input Processing Pipeline) | 把外部相机流转成事件 |
| SAIM(Safety AI Monitor) | 在"感知结果还够不够格进决策"这一关设卡:OOD、遮挡、断连、退化输入都会被拦 |
| SEI(Safety Event Integrator) | 多视角事件融合,检查事件是否过期 |
| SDM(Safety Decision Maker) | 一台有限状态机,跑在隔离的 Safety Island 上,输出安全动作 |
| SBB(Safety Black Box) | 日志与审计追踪 |
2.2 谁在设卡
SAIM 干的活是:感知结果够不够格进决策,它先卡一道。OOD、遮挡、断连、退化输入,统统拦下。
注意,它是把关的,不是算命先生。别指望它预测传感器哪天罢工,那不是它的职责范围。
2.3 系统配置
Halos OS 有两种配置:纯 Linux,或者 Linux + QNX 靠 NV Hypervisor 做虚拟机级隔离。
Inspection Lab 评估 IEC 61508、ISO 13849 和 ISO/IEC TR 5469。SBB 做事件后记录、Isaac Sim 做部署前仿真、CI 数据按版本再训练——时间粒度各不相同,但姿势统一:回头看。
3. 盲区:大家全在看后视镜
3.1 SAIM 的逻辑很清晰
输入变 OOD → 检测并标记 → 触发安全链 → SDM 退到安全状态,直到条件恢复。成熟、标准、故障响应式。
但问题来了:它只回答"出事了没",不回答"快出事了没"。
3.2 渐变型退化三兄弟
第一类,物理退化。激光雷达反射率随温度慢慢漂移,制动片磨损让响应延迟逐月增加。背锅的是 PHM——航空那边 NASA IRAC、波音 AHM 早就把在线损伤辨识塞进飞控内回路了,汽车功能安全语境下,退化趋势至今不是 ASIL 一阶决策输入。
第二类,分布漂移。训练分布不等于部署分布,模型在真实场景里悄悄变菜。SOTIF(ISO 21448)说超出已验证能力范围要切到缓解路径,工程上可以抄 selective prediction / learning to reject——但那是 ML 文献的概念,SOTIF 原文没写。背锅的是 MLOps,drift detection 方法成熟得都快过气了,同样没进安全决策的一阶回路。
第三类,假设老化。Safety Case 依赖的假设在部署后被现实慢慢推翻——比如原本写着"人不会出现在货架顶部",结果真有员工爬上去自拍。
3.3 真正没人管的是老三
物理退化有 PHM 背锅,分布漂移有 MLOps 背锅,假设老化呢?在汽车 AI 安全工程实践里,它连个负责人都没有。这才是真正的盲区。
它的可怕之处不是"没人负责",而是:交付那天 Safety Case 明明是对的,第 90 天开始变旧,第 180 天被某个边缘场景悄悄推翻——而系统还在跑,因为没有任何指标越界。
指标都没报警,系统凭啥罢工?这个逻辑闭环了。
先例其实有:Jaradat & Punnekkat 2018 观测到故障率与设计假设发散后回炉 safety case;Denney & Pai 2024 做 dynamic assurance;加拿大 CNSC 用约 10 年 PSR 周期重审。空白不是"没人想到",是"还没形成一个能落地的责任闭环"。
4. 为什么没人做:不是智商问题,是钱的问题
4.1 时间的两种写法
回头看的时间,能写进报告,好看,好评审。往前看的时间,要写进状态机,难改,容易背锅。
前者是证据,后者是责任。
4.2 技术其实不缺
EWMA、贝叶斯变更点检测、健康度指标化,在可靠性工程、PHM、MLOps、SOTIF 里都是成熟应用。所以别怀疑大家不会算,大家只是不想为此负责。
4.3 真正卡住的是"在线自改基线"
有人会说,概率不是问题吧?对,ISO 26262 本身就是概率框架,FTA、PMHF 全是定量目标。卡住的不是概率,是"在线自改基线"。
认证时的概率假设,运营期被系统自己悄悄改掉,可复现、可归档的证据链就断了。这就像财务做账,账面数字漂亮,审计一来全对不上。
状态机范式没错,处理突变它很在行。问题是安全架构里没有第二层范式跟它并行:一个管"出事了没",一个管"还在退化到什么时候出事"。
5. 解法:别只卷刹车,装个仪表盘
5.1 加一层轨迹估计器
不是推翻状态机,而是在它上面加一层时变余量估计:在 SAIM 和 SDM 之间插入一个"轨迹估计器"——输入是 SAIM 的历史输出,输出是 Time-to-Safety-Boundary(TTB)。
先掰扯一个概念:safe RL 里的 time to safety(TTS)指违规后恢复要多快;TTB 是"距离触碰安全边界还有多久",是预测,不是恢复。一个是事后补救,一个是事前提醒,别混。
示意性输出长这样(非某系统实测数据):
# 示意性输出,非某系统实测数据 risk_margin = 0.32 # 当前安全余量 drift_rate = 0.004 # 余量衰减速率(/小时) TTB = 78 # 距触碰安全边界的时间(小时) TTB_CI = (51, 140) # 90% 置信区间 recommended_action = "derate_10%" # 建议动作:降 10% 功率5.2 状态机管刹车,轨迹层管仪表盘
状态机收到的是红灯、绿灯。轨迹层给的是:余量多少、衰减多快、还有多久到边界、置信区间多宽。
一个是"出事时怎么停",一个是"还没出事但余量在变小,要不要提前降权"。
行业现状:所有人都在卷刹车距离,没人问仪表盘为什么还显示 100%。这就像手机电量,机身烫得能煎蛋,右上角还倔强地写着 100%。
轨迹层不是让机器人"自己决定人生",是把"余量、斜率、时间余量、置信区间"变成 SDM 的可审计输入——跟 SAIM 的 OOD 分数一样,是证据,不是独裁者。
6. 升一层:安全边界是份时变合同
传统 Safety Case 的句式是"系统满足一组静态假设"。物理 AI 的 Safety Case 应该改成"系统在这些假设下的余量随时间演化"。
安全不是"正常 / 故障"二值,是一张时变可信度曲面。
Halos 回答的是:现在安全吗?下一代架构要回答的是:现在还安全多少、以多快速度变不安全、哪个假设正在先死。
传统安全工程信"先正常、再异常、再故障"。物理 AI 的真相是:没有"正常",只有"暂时还没碰到边界"。
7. 标准界也在动
IEEE 2851-2023 已经把 functional safety、reliability、cybersecurity、time determinism 全塞进了可依赖生命周期。P2851.1 管 FuSa 与 Reliability,P2851.2 从 2025 年 3 月起管 FuSa 与 Cybersecurity。
标准界知道要做跨属性数据互操作,但"退化轨迹是否被安全栈消费"这一块,仍然白纸一张。
8. 结语
Halos 解决了运行时的故障响应:架构给了,SAIM 给了 OOD 检测,SDM 给了状态机决策。但它的运行时决策核心,仍是"当前状态 + 事件 + 状态机"。
下一个十年要解决的,不是"系统坏了没有",而是"系统正在以多快速度失去可信度,以及我们敢不敢在它还能刹车的时候先松油门"。
顺着这条线再往下挖,还有一个更扎心的盲区:Halos 的安全架构,是为"能安全停下来的系统"设计的。人形机器人处在动态平衡里,未必随时停得下来。
有些系统,连"踩刹车"这件事本身都还是未解的工程问题——你连刹车踏板都找不到,谈什么 ABS。
P.S. 无意间发现了一个巨牛的人工智能教程,非常通俗易懂,对AI感兴趣的朋友强烈推荐去看看,传送门https://blog.csdn.net/HHX_01