推理优化

Articles tagged "推理优化"

10 articles in total

英伟达发布 Cosmos 3 Edge，可在机器人端侧运行的世界模型

英伟达于 2026 年 8 月 19 日发布 Cosmos 3 Edge，这是一款专为机器人端侧控制设计的 4B 参数 omni 模型，包含一个 2B 参数的 Nemotron 推理器。该模型属于 Cosmos 3 系列，与 Cosmos 3 Nano 和 Cosmos 3 Super 共享物理世界数据预训练，具备物体运动和交互的基础理解。其核心优势在于模型足够小，可直接在英伟达 Jetson Thor 上运行，无需数据中心 GPU。后训练是使模型适应机器人操作任务的关键，英伟达提供了完整教程，训练数据来自 nvidia/Cosmos3-DROID 数据集，包含 7.6 万条成功遥操作轨迹，覆盖 86 个任务和 564 个场景，使用 Franka Panda 机械臂和 Robotiq 夹爪采集。后训练验证配置需要 64 个节点，每节点配备 4 块 GB200，共 60K 次迭代，耗时约 68 小时，总计约 1.74 万 GB200 小时。在 Jetson AGX Thor T5000 上，后训练策略实时运行，生成动作块约需 1.53 秒，覆盖 2.13 秒运动，闭环 RoboLab 任务成功率达 22.9%。该模型支持多种机器人本体，包括双臂 Franka、UR、WidowX 250 和 LeRobot SO101，教程和代码已开源。这一发布降低了机器人对数据中心算力的依赖，推动了具身智能在边缘场景的应用，标志着英伟达在边缘 AI 和机器人领域的布局进一步深化。

Read More →

TensorRT Model Connect - 开源模型部署工具，两命令转C+

TensorRT Model Connect（TRTMC）是 NVIDIA 于 2026 年 8 月 18 日以 Apache-2.0 协议在 GitHub 开源的一款模型部署工具，旨在将 Hugging Face 或本地模型检查点直接转换为原生 C++ 推理引擎。开发者仅需 `trtmc build` 和 `trtmc run` 两条命令即可完成部署，全程无需导出 ONNX 中间格式，构建产物为版本化的 .bundle 文件，运行时完全脱离 PyTorch 环境。该项目由 OpenAI Codex Agent 在人类监督下构建，代表了 AI 辅助开发部署工具的范式转变。TRTMC 提供覆盖 105 个模型系列、76 个模型家族的参考实现，包括 Qwen、Llama、Mistral、DeepSeek 等主流开源大语言模型以及 Whisper 语音模型。性能验证方面，在 GB300 快照测试中，102 个 profile 的推理性能较声明基准提升超过 5%。其技术架构将构建阶段与运行时解耦，提供统一的 C++ 任务 API（generate、transcribe、embed 等），并支持 NVIDIA 全系列 GPU（如 A100、H100、Jetson），可实现云端到边缘的全场景部署，适用于大模型推理服务、边缘 AI 推理、C++ 应用集成与模型快速评估。该工具通过版本化 .bundle 天然支持模型回滚与灰度发布，为生产环境提供了高一致性的交付单元。

Read More →

借助AMD Vitis AI的GStreamer加速边缘AI流水线

本文介绍如何使用 AMD Vitis AI 和 VVAS 工具链加速边缘 AI 视频分析流水线的开发与部署。文章从端到端视角剖析了从训练好的 PyTorch/TensorFlow 模型到在第二代 Versal AI Edge 系列自适应 SoC 上实时运行 NPU 推理的完整流程。核心工具包括：AMD Quark 量化工具支持 BF16、FP16 和 INT8 精度模式，并可通过混合精度解决 YOLO 等模型后处理的精度损失；Vitis AI 编译器自动完成算子融合、内存调度及 CPU/NPU 分区，支持数据并行和张量并行；ONNX Runtime + Vitis AI Execution Provider 和原生 VART-ML 运行时分别适配快速原型与量产级零拷贝执行。在视频流水线集成侧，基于 GStreamer 的 VVAS 通过插件（vvas_xinfer、vvas_xoverlay 等）及 JSON 配置，编排采集、预处理、推理、后处理与渲染，并原生支持空间分区、时间共享和 DMA-BUF 零拷贝等高级部署特性。文中以 YOLOX 检测示例演示了单条 gst-launch 命令即可描述完整流水线。预构建 Docker 镜像和 VEK385 评估板启动镜像使上手时间缩短至数分钟，Python/C++ API 覆盖从原型到量产。这些能力可使团队将更少时间花在底层集成上，更多聚焦于应用开发与性能优化。

Read More →

YOLOv10在土星云SE110S系列边缘计算设备上的部署实战

本文详细介绍了将YOLOv10目标检测模型部署到国产边缘计算设备土星云SE110S系列的全流程实战，涵盖模型转换、编译与推理优化。YOLOv10采用一致双重分配策略实现NMS-Free端到端检测，相较YOLOv8-S减少约23%参数量、28%计算量，推理延迟降低约30%，非常适合边缘部署。土星云SE110S系列由国科环宇推出，提供SE110S-WC08（7.2 TOPS）、SE110S-WB16（16 TOPS）和SE110S-WA32（32 TOPS）三款型号，支持INT8/FP16/FP32混合精度推理和BMCV硬件加速。部署流程包括：通过Ultralytics导出ONNX模型（opset 11），使用TPU-MLIR工具链将ONNX编译为BModel，并推荐INT8量化，校准集200-500张图片。在SE110S-WA32上，INT8量化配合BMCV加速可实现110+ FPS（单路1080P），精度损失控制在5%以内（COCO val2017 AP@0.5:0.95从0.463降至0.443）。文章还给出了智慧安防、工业质检、智慧交通等多个边缘AI视觉场景的选型与优化建议，展示了YOLOv10在国产边缘硬件上的成熟落地能力。

Read More →

Jetson Orin 8GB 部署 TensorRT-Edge-LLM：Qwen2.5 从安装到 OpenAI 兼容服务全流程（11 个坑血泪实录，保姆级实战）

本文记录了在Jetson Orin Nano Super DevKit 8GB（8GB统一内存）上，使用NVIDIA TensorRT-Edge-LLM v0.6.0部署阿里通义千问Qwen2.5-0.5B-Instruct的全流程，从Python工具链与C++ Runtime安装、ONNX导出（plugin模式）、TensorRT引擎构建，到用FastAPI封装成OpenAI兼容HTTP服务，并详细剖析了11个工程踩坑点。核心经验包括：必须锁定v0.6.0以匹配JetPack 6.2和TensorRT 10.3.0.30；pip安装需用--no-deps避免onnx版本冲突；导出时绝对禁用--trt_native_ops。8GB设备硬性构建上限为0.5B模型，1.5B模型因embedding表固定占445MB，在autotuner阶段因NvMap连续空闲块（lfb）不足导致OOM，通过重启整机、切换无桌面模式及MAXN功耗模式等策略成功构建。推理验证显示生成速率21.9~30.5 tok/s（平均约26.5 tok/s），TTFT约1.9s，峰值内存4.23GB（55.7%），功耗约15.2W，GPU利用率99%。文章强调构建期内存远大于推理期，同架构Orin设备间引擎可直接迁移，为边缘端AI部署提供了详实、可复现的避坑指南。

Read More →

Forward Deployed Engineer (Inference & Post-Training) - Mandarin Speaking

本文是 Together AI 通过 Zero G Talent 发布的一份面向新加坡的招聘启事，岗位为会说普通话的前线部署工程师（Forward Deployed Engineer，FDE），专门负责推理（Inference）与后训练（Post-Training）方向。该职位不是简单的解决方案架构师替代品，而是定位于深度领域专家，需要与解决方案架构师协同工作。核心职责围绕推理引擎优化展开，涉及根据硬件配置、模型架构和负载特征选型、配置并优化主流推理引擎（如 vLLM、TensorRT-LLM、SGLang）。具体技术工作包括：调整 KV Cache、应用推测解码、确定最佳张量并行度与量化策略，以达成严苛的吞吐量和延迟指标。后训练方面，候选人需亲自执行 RL 训练任务并优化系统架构，指导客户完成 LoRA、SFT、DPO、RLHF 与 GRPO 等全流程管线搭建，助力客户从实验阶段跨入生产环境。此外，FDE 还需负责战略客户的长期技术健康度，确立客户入驻平台的基线配置以缩短价值实现时间，并代表一线经验反向驱动产品路线图的演进。申请者须具备 5 年以上技术经验，对开源大模型生态有广泛认知，具备专家级推理引擎实操和诊断能力，并拥有扎实的 Python 编码功底。文章强调 Together AI 是一家研究驱动型企业，致力于通过软硬件协同设计降低 AI 成本，其团队贡献了 FlashAttention 等知名技术。岗位要求为新加坡永久居民或公民，提供初创股权及远程灵活办公选项，发布时间为 2026 年 8 月 4 日。

Read More →

在 JetPack 7.2 上部署 TensorRT Edge-LLM

本指南来自 Seeed Studio Wiki，完整记录在 NVIDIA JetPack 7.2 上部署 TensorRT Edge-LLM v0.9.1 的流程。TensorRT Edge-LLM 是 NVIDIA 面向嵌入式 Jetson 平台的大语言模型、视觉语言模型和多模态模型推理栈，本版本于 2026 年 7 月 31 日更新，官方支持 Jetson Orin 和 Jetson Thor。部署分两阶段：首先在 x86 GPU 主机（Ubuntu 22.04/24.04、CUDA 12.x/13.x、Ampere 以上 GPU）上克隆 TensorRT Edge-LLM v0.9.1，通过 `tensorrt-edgellm-export` 将 Hugging Face 上的 Qwen3-0.6B 检查点导出为 ONNX 计算图；随后将 ONNX 目录传输至 Jetson 设备，在 JetPack 7.2 与 CUDA 13.2 工具链下，使用 CMake 以 `jetson-orin` 或 `jetson-thor` 为目标构建 C++ 运行时和示例，然后运行 `llm_build` 从 ONNX 构建 TensorRT 引擎，并通过 `llm_inference` 进行推理，输出示例显示模型成功回答“The capital of the United States is Washington, D.C.”。指南详细说明了 Jetson Orin 支持的精度仅为 FP16、INT8、INT4，不支持 FP8 等更高精度，并强调 JetPack 6.2 的引擎不可直接复用。对于 INT4 量化，推荐使用 AWQ 或 GPTQ 预量化检查点并采用外部化权重选项以降低内存压力。此外，还提供了基准测试命令、与 JetPack 6.2 的差异对比以及常见故障（如 CMake

Read More →

微软、字节、福特都在高薪招人 AI又衍生了一个新岗位

2026年7月，微软、字节跳动、Ford、AWS等全球科技巨头正同步转向一种新的人才策略：高薪招募前线部署工程师（FDE）。微软砸下25亿美元成立Frontier Company，抽调约6000名工程师派驻联合利华、诺和诺德等客户现场，微软商业业务总裁Judson Althoff公开承认“三年前做Copilot时只绑定OpenAI模型是个错误”，核心原因在于SaaS式的AI产品自助化远未跑通，企业不会用、不敢用，导致软件许可证成了摆设。另一边，Ford突然召回350名老工程师回来修复AI自动化设计系统，因为AI因缺少隐性工程经验（如特定焊接工艺）制造了海量错误造成质量滑坡，VP Charles Poon坦承以为引入AI就能产出高质量产品是对现实的误判；Ford为此补充了10万个AI自动化测试和40人QA团队。在国内，字节跳动为FDE开出每月3.5到7万的高薪，15薪下最高年薪达105万；阿里云智能FDE月薪也达到2到5万。LinkedIn报告显示，2023至2025年间全球FDE岗位发布量激增42倍，而同期AI工程师仅增长13倍，数据来源于平台发布基数。德勤发布的《2026中国制造业AI落地白皮书》显示91%的样本企业未达预期，证明企业落地AI的真正瓶颈不在于Token调用成本，而在于遗留系统对接、隐性知识缺失以及业务流程重组所需的人力服务；花旗和Adobe也已开始限制使用旗舰大模型以节省算力。文章核心论断是大厂账本算的是同一本，AI 2B的价值正在从“接口调用费”系统性转移到“人天服务费”，人的角色正从执行岗升级为打通AI与真实业务“最后一公里”的翻译官、调试官和管控岗。

Read More →

腾讯混元AI Infra如何优化Hy3 Preview：一次大模型推理性能提升的技术拆解

本文详细介绍了腾讯混元AI Infra推理团队针对旗舰大模型Hy3 Preview（采用GQA+MoE混合架构，原生支持256K超长上下文）在NVIDIA Hopper卡上的推理性能优化实践。面对Hopper卡算力较低、显存紧凑等限制，团队从算子优化与融合、并行策略、多级缓存、MTP异步调度、量化与稀疏五大维度进行全栈优化。在算子优化上，提出动态调度负载均衡的Attention算子（混合长度batch加速1.59x-1.76x），双BF16重构FP32 Router GEMM（加速2.86x-3.22x），FusedMoE流水线重构（相比vLLM等加速1.2x-1.6x）。算子融合方面，实现Fused Rope+Norm+Quant+Store KV（加速约5x），Fused AllReduce+Norm+Add（加速1.68x），采样融合算子（加速2.5x-5.5x），以及Gemm+Comm通算融合（加速1.68x-1.81x）。并行策略上，采用TPSP Prefill优化（TTFT降低24.5%-29.9%）和DP+EP Decode架构（吞吐提升15.7%-44.7%）。多级缓存构建GPU-CPU-KVStore三级体系以降低重复Prefill。MTP异步调度优化消除CPU气泡，端到端提升10%-20%。量化方面，在AngelSlim框架中通过GPTQ权重重建、激活平滑、Hadamard旋转和QAT微调实现W8A8C8无损量化，吞吐提升28%+；并应用Stem稀疏注意力算法及HPC-BSA算子，在128K上下文下Prefill延迟降低3.6倍，精度持平。文章为Hopper架构下大模型推理部署提供了系统级优化范本。

Read More →

在 Modal 上部署 GLM-5.2-FP8 (700B MoE)：8x H200 无服务器架构、权衡与实战经验

智谱AI发布了GLM-5.2，一个针对长程规划、复杂软件工程和高密度推理优化的700B参数混合专家推理模型，在SWE-bench Pro和GPQA等基准上超越或媲美Claude 3.5 Sonnet和GPT-4o等闭源模型。该模型FP8检查点权重高达703.74 GiB，需要8个NVIDIA H200 GPU（每个141GB HBM3e显存）集群才能运行。本文详细介绍在Modal无服务器GPU平台上使用vLLM部署GLM-5.2-FP8的架构、成本与实战经验。量化格式选择中，FP8在8-GPU单节点上能保留99.2%的原始智能，生成速度比INT8快1.5至2倍，而INT4精度损失严重，BF16无法单节点运行。成本方面，Modal无服务器模式按需缩放至零，20分钟开发周期实际成本约12美元，相较RunPod等传统租用平台具有显著弹性优势。自托管解决了代码隐私合规、绕过API频率限制以及保持前缀缓存稳定性等诉求。部署过程中解决了typing_extensions冲突，通过prefetch并行预取将权重加载时间从12分钟压缩到1分钟，冷启动总时间降至4.5分钟，并选择enforce-eager模式避免CUDA图编译超20分钟的问题。文章还给出生成完整网页游戏的验证案例，展示了模型在单个上下文窗口中处理复杂工程逻辑的能力。

Read More →