Physical AI(物理 AI / 具身智能)讨论的是:模型不只生成文本或像素,还要在真实物理世界里感知、决策并执行动作——机器人、机械臂、移动底盘、乃至更广义的「能动手的系统」。
它和「聊天机器人」的分水岭是:输出会碰到牛顿定律、延迟、摩擦与安全约束。幻觉在网页里只是错答案;在物理世界里可能是撞墙。
一张图:闭环而不是单次推理
传感器 (相机/IMU/力觉…)
│
▼
感知 / 状态估计
│
▼
决策 / 策略 / 规划 ←── 这里出现「大模型 / 策略网络 / 经典规划」
│
▼
控制 (关节/轮速/夹爪)
│
▼
物理世界 ──────────── 再观测
Physical AI 的研究热点,多半在「决策」这一层换脑子:从规则与优化,换成数据驱动策略,或 VLM/VLA(视觉-语言-动作) 直接出动作 token。工程上,上下两端(驱动、控制、安全)仍然是经典机器人学。
几个容易混的词
| 词 | 大致含义 |
|---|---|
| Embodied AI(具身智能) | 强调智能体有身体、在环境中交互 |
| Physical AI | 产业侧常用说法,偏「能落地到物理执行」的 AI 系统 |
| World Model(世界模型) | 学习环境动态:预测「若我做 a,世界会怎样」 |
| VLA | Vision-Language-Action:看图+指令→动作 |
| Sim2Real | 仿真里训,真机上跑;核心是域随机化与落差治理 |
| Foundation Model for Robotics | 试图用大规模数据训「通用机器人脑子」 |
不必纠结商标式命名;看系统时问三句就够:
- 观测是什么?
- 动作空间是什么?
- 失败时安全边界在哪?
模型侧:三条常见技术路线
1. 分层:大模型当「大脑」,经典栈当「小脑」
LLM/VLM 理解指令 → 任务规划(子目标)
→ 运动规划 / 控制器 / 技能库(抓取、导航)
优点:可解释、可插入人类技能库、易接 ROS。
缺点:接口脆;规划错了下游只会「完美执行错误」。
2. 端到端策略 / VLA
视觉(+语言)直接映射到关节或末端增量。数据从真机遥操作、演示、仿真来。
优点:少手工特征。
缺点:数据贵、泛化难、调试黑盒;要配强力的安全层与回退策略。
3. 世界模型 + 规划/想象
先学「世界怎么变」,再在想象里滚动作序列,或作强化学习环境。
优点:样本效率与泛化潜力。
缺点:模型偏差会复合放大;仍需真机校准。
多数落地系统是混合体:端到端负责局部技能,符号/LLM 负责任务级编排,力矩/速度限制永远在最外层。
工程栈:Physical AI 不是只训一个 ckpt
一层层看:
| 层 | 典型组件 |
|---|---|
| 硬件 | 臂、夹爪、底盘、相机、计算(工控/Jetson…) |
| 实时控制 | 驱动、PID/全身控制、急停、限位 |
| 中间件 | ROS 2 话题/服务、TF、bag、生命周期 |
| 感知 | 检测、位姿、SLAM、触觉 |
| 技能 | 抓取、插入、导航、复位 |
| 策略/模型 | 本地推理(TensorRT/ONNX)、或边缘+云 |
| 仿真 | Gazebo、Isaac Sim、MuJoCo… |
| 数据 | 遥操作日志、bag、标注、评测集 |
| 运维 | 版本、OTA、现场回放、事故审计 |
ROS 2 在这里的位置:不是「AI 本身」,而是把传感器流、状态、技能节点和模型推理进程焊成可运维系统的总线。没有它(或同类中间件),你很难把实验室 Demo 变成可重启、可录包、可多机的产品。
Sim2Real:物理 AI 的主战场
仿真便宜、安全、可并行;真机昂贵且慢。鸿沟来自:
- 视觉域差(光照、材质、延迟)
- 动力学差(摩擦、柔性、齿轮间隙)
- 控制频率与观测噪声不同
常用对策:
- 域随机化:随机纹理、质量、延迟
- 系统辨识:用真机数据校准仿真
- 残差学习:经典控制器 + 学习残差
- 渐进部署:先接触力受限任务,再开放空间
评测请分开报:仿真成功率 ≠ 真机成功率。写进文章和 OKR 时拆开。
和「纯软件 AI」工程的差异
| Web/LLM 应用 | Physical AI | |
|---|---|---|
| 失败成本 | 差体验 / 错答 | 损坏、停线、安全事故 |
| 迭代循环 | 分钟~小时 | 小时~天(真机) |
| 可复现 | 日志 + 单测 | bag + 时钟 + TF + 现场条件 |
| 指标 | 准确率、延迟、成本 | 成功率、周期时间、力/安全违规 |
| 回滚 | 换模型版本 | 还要回滚技能与限速参数 |
所以:Physical AI 项目要把 安全状态机、急停、权限、审计 当成一等公民,而不是「模型好了再补」。
一条务实的学习/立项路径
- 用 ROS 2 跑通真机或仿真的感知→控制最小环(不接大模型)。
- 加一个「技能」:定点导航或已知物体抓取。
- 再让 VLM/LLM 只输出结构化子目标(JSON),不要直接出关节角。
- 有数据与安全预算后,再试点局部端到端技能。
- 全程
ros2 bag+ 指标板:成功率、干预次数、平均周期。
小结
Physical AI = 有身体的闭环智能:模型是脑子的一部分,物理、控制与中间件决定它能不能活着干活。ROS 1/2 帮你把系统拆开焊牢;世界模型与 VLA 在改「决策」那一层;Sim2Real 与安全工程决定 Demo 能不能变成产线。
相关阅读:本站 ROS 1 入门 · ROS 2 要点 · 第一个 AI Agent。
