模型并行

Physical AI迎来首个端边云统一推理运行时：北邮、北大、清华、明体科技等联合推出PhyAI

来自北京邮电大学、北京大学、清华大学、南京大学、明体科技及面壁智能的联合团队推出了 PhyAI，这是首个面向 Physical AI 的端边云统一推理运行时。针对当前具身智能在离线评测、云端强化学习 Rollout、端侧实时控制、工厂服务等四类场景中需维护四套代码、迁移成本高及效率参差不齐的问题，PhyAI 实现了单套代码的全场景无缝迁移。其核心架构包含 Model Adapter 和 Scheduler，统一管理调度、算子融合与多卡并行。在 Benchmark 评估中，PhyAI 相对官方实现产生了 1.40 倍至 4.65 倍的显著加速，例如将 MiniCPM-Robot 在 H100 上的推理延迟从 105.38ms 骤降至 22.64ms；在多机器人真机并行场景中，延迟最高降低 2.3 倍并消除了卡顿。文章提出了关键分析模型“Control-Time Roofline”，指出在算力过剩的 GPU 上，物理环境响应已成为新瓶颈，单纯降低模型推理延迟无法线性提升机器人的整体控制频率，这为具身智能算法与硬件的协同设计提供了全新的量化依据。