X:000 · Y:000SECTOR / AIv0.9.SIGNALNO_ADS // NO_TRACK
CILLIAN.AI
← MEMORY

Physical AI 扫盲:具身智能、世界模型与工程栈

物理 AI(Physical AI)不是口号:从感知-决策-执行闭环,到 VLA / 世界模型 / Sim2Real,再到 ROS 与仿真在工程里的位置。

3 MIN READ~2300 CHARS
Physical AI 扫盲:具身智能、世界模型与工程栈
SIGNAL COVER · physical-ai-intro

Physical AI(物理 AI / 具身智能)讨论的是:模型不只生成文本或像素,还要在真实物理世界里感知、决策并执行动作——机器人、机械臂、移动底盘、乃至更广义的「能动手的系统」。

它和「聊天机器人」的分水岭是:输出会碰到牛顿定律、延迟、摩擦与安全约束。幻觉在网页里只是错答案;在物理世界里可能是撞墙。

一张图:闭环而不是单次推理

传感器 (相机/IMU/力觉…)


  感知 / 状态估计


  决策 / 策略 / 规划     ←── 这里出现「大模型 / 策略网络 / 经典规划」


  控制 (关节/轮速/夹爪)


     物理世界 ──────────── 再观测

Physical AI 的研究热点,多半在「决策」这一层换脑子:从规则与优化,换成数据驱动策略,或 VLM/VLA(视觉-语言-动作) 直接出动作 token。工程上,上下两端(驱动、控制、安全)仍然是经典机器人学。

几个容易混的词

大致含义
Embodied AI(具身智能) 强调智能体有身体、在环境中交互
Physical AI 产业侧常用说法,偏「能落地到物理执行」的 AI 系统
World Model(世界模型) 学习环境动态:预测「若我做 a,世界会怎样」
VLA Vision-Language-Action:看图+指令→动作
Sim2Real 仿真里训,真机上跑;核心是域随机化与落差治理
Foundation Model for Robotics 试图用大规模数据训「通用机器人脑子」

不必纠结商标式命名;看系统时问三句就够:

  1. 观测是什么?
  2. 动作空间是什么?
  3. 失败时安全边界在哪?

模型侧:三条常见技术路线

1. 分层:大模型当「大脑」,经典栈当「小脑」

LLM/VLM 理解指令 → 任务规划(子目标)
       → 运动规划 / 控制器 / 技能库(抓取、导航)

优点:可解释、可插入人类技能库、易接 ROS。
缺点:接口脆;规划错了下游只会「完美执行错误」。

2. 端到端策略 / VLA

视觉(+语言)直接映射到关节或末端增量。数据从真机遥操作、演示、仿真来。

优点:少手工特征。
缺点:数据贵、泛化难、调试黑盒;要配强力的安全层与回退策略。

3. 世界模型 + 规划/想象

先学「世界怎么变」,再在想象里滚动作序列,或作强化学习环境。

优点:样本效率与泛化潜力。
缺点:模型偏差会复合放大;仍需真机校准。

多数落地系统是混合体:端到端负责局部技能,符号/LLM 负责任务级编排,力矩/速度限制永远在最外层。

工程栈:Physical AI 不是只训一个 ckpt

一层层看:

典型组件
硬件 臂、夹爪、底盘、相机、计算(工控/Jetson…)
实时控制 驱动、PID/全身控制、急停、限位
中间件 ROS 2 话题/服务、TF、bag、生命周期
感知 检测、位姿、SLAM、触觉
技能 抓取、插入、导航、复位
策略/模型 本地推理(TensorRT/ONNX)、或边缘+云
仿真 Gazebo、Isaac Sim、MuJoCo…
数据 遥操作日志、bag、标注、评测集
运维 版本、OTA、现场回放、事故审计

ROS 2 在这里的位置:不是「AI 本身」,而是把传感器流、状态、技能节点和模型推理进程焊成可运维系统的总线。没有它(或同类中间件),你很难把实验室 Demo 变成可重启、可录包、可多机的产品。

Sim2Real:物理 AI 的主战场

仿真便宜、安全、可并行;真机昂贵且慢。鸿沟来自:

  • 视觉域差(光照、材质、延迟)
  • 动力学差(摩擦、柔性、齿轮间隙)
  • 控制频率与观测噪声不同

常用对策:

  • 域随机化:随机纹理、质量、延迟
  • 系统辨识:用真机数据校准仿真
  • 残差学习:经典控制器 + 学习残差
  • 渐进部署:先接触力受限任务,再开放空间

评测请分开报:仿真成功率 ≠ 真机成功率。写进文章和 OKR 时拆开。

和「纯软件 AI」工程的差异

Web/LLM 应用 Physical AI
失败成本 差体验 / 错答 损坏、停线、安全事故
迭代循环 分钟~小时 小时~天(真机)
可复现 日志 + 单测 bag + 时钟 + TF + 现场条件
指标 准确率、延迟、成本 成功率、周期时间、力/安全违规
回滚 换模型版本 还要回滚技能与限速参数

所以:Physical AI 项目要把 安全状态机、急停、权限、审计 当成一等公民,而不是「模型好了再补」。

一条务实的学习/立项路径

  1. 用 ROS 2 跑通真机或仿真的感知→控制最小环(不接大模型)。
  2. 加一个「技能」:定点导航或已知物体抓取。
  3. 再让 VLM/LLM 只输出结构化子目标(JSON),不要直接出关节角。
  4. 有数据与安全预算后,再试点局部端到端技能。
  5. 全程 ros2 bag + 指标板:成功率、干预次数、平均周期。

小结

Physical AI = 有身体的闭环智能:模型是脑子的一部分,物理、控制与中间件决定它能不能活着干活。ROS 1/2 帮你把系统拆开焊牢;世界模型与 VLA 在改「决策」那一层;Sim2Real 与安全工程决定 Demo 能不能变成产线。

相关阅读:本站 ROS 1 入门 · ROS 2 要点 · 第一个 AI Agent

RELATED SIGNALS

SIGNAL FOOTER

本篇已归档到 MEMORY。欢迎继续解码相邻信号,或回到档案首页。