Large Language Model

与「Large Language Model」相关的文章

共 3 篇文章

AI工作流自动化与前置部署工程师：2026完整指南

本文是FDE学院发布的关于利用前线部署工程师（Forward Deployed Engineers, FDEs）实现AI工作流自动化的2026年完整指南。文章核心论点是，企业AI部署的失败往往源于从通用模型到混乱的真实工作流之间的最后一公里鸿沟，而非模型能力不足。FDE作为一种复合型技术角色，集软件工程师、解决方案架构师和现场顾问于一身，通过直接嵌入客户环境、深入理解实际业务流程，来构建定制化的AI自动化系统。这一做法不同于传统的机器人流程自动化或标准咨询，FDE拥有从流程发现、工具选择、系统集成到人机协同治理和持续迭代的完整生命周期所有权。文章引用了Deloitte和McKinsey在2026年的研究数据，指出仅有少数企业具备成熟的自主代理治理模型，且只有约三分之一的企业真正重新设计工作方式，而端到端流程再造的企业能获取显著更多价值。指南详细阐述了金融服务、医疗保健、物流、B2B SaaS和客户运营等行业的实际应用案例，并对比了FDE与传统自动化顾问在参与模式、工具、所有权和适应性上的差异，强调了其在处理复杂、非标准化工作流中的优势。文章最后指出，FDE的角色正从代码编写者转变为自主系统的设计者和治理者，并提及企业采用此模式的风险，如范围蔓延和知识孤岛，需要明确的治理框架和分阶段推广。

阅读全文 →

智能选择与机制设计

本文详细阐述了前线部署工程师（Forward Deployed Engineer, FDE）的核心理念：智能体是运营软件系统中的组件，而非系统库。文章核心是“最小充分机制”（Smallest Sufficient Mechanism）原则，即在默认使用复杂的智能体循环之前，必须优先选择最经济、可解释的方法来实现业务成果。为此，文章提供了一个从确定性代码、优化算法、经典机器学习、检索增强生成（RAG）、基础模型、智能体工作流到人类决策的七层选择矩阵，明确了每种机制的适用场景、决策形态和必需的防护栏。此外，文章介绍了“智能选择记录”模板，要求工程师在做出任何关键路由选择时，必须记录被否决的更简单替代方案及其被否决的测量原因。文章还包含“混合智能系统蓝图”，定义了如何将这些机制编排到单一工作流中，采用串行路径默认设置，仅在约束合理时添加并行或多智能体循环。系统架构上，强调了工作流编排器、确定性策略、工具与效果网关和运营本体论四大组件的职责分离，并严格规定了状态转换和信任边界，即模型只能建议状态转换，但不能执行，所有凭证、权限和隔离都在智能层之外的可信服务中执行，最终构建了超越12要素方法的云原生基线。

阅读全文 →

在 JetPack 7.2 和 Jetson AGX Orin 上使用 TensorRT 部署全权重 GR00T N1.7

本文来自 Seeed Studio Wiki，是一篇详细的技术教程，指导如何在 JetPack 7.2 和 Jetson AGX Orin 边缘计算设备上，使用 TensorRT 部署全权重的 NVIDIA Isaac GR00T N1.7 机器人策略模型。与以往仅加速 DiT 组件的工作流不同，本教程实现了对 Vision Transformer (ViT)、Large Language Model (LLM)、视觉-语言自注意力、状态编码器、动作编码器、DiT 动作专家和动作解码器全部七个组件的 TensorRT 引擎构建。教程采用本地 LeRobot 数据集和本地 Qwen3-VL-2B-Instruct 主干模型，实现了完全离线的推理流水线，避免了 Hugging Face Hub 的网络依赖。经过验证，整个 TensorRT 构建过程耗时约 3 分 37 秒，最终生成七个 .engine 文件。在推理性能方面，全 TensorRT 流水线处理每个 16 步动作预测块耗时约 0.2755 秒，相当于每秒 3.63 个块。文章还提供了 PyTorch 与 TensorRT 输出的数值对比，结果显示最终动作的余弦相似度高达 0.997426，验证了模型转换的精度。此外，文章详细列出了存储与内存规划（至少需要 45-50 GB 空间）、环境配置、故障排查以及连接实体机器人前的安全警告和检查清单，是一份从模型导出到边缘推理的完整工程实践指南。

阅读全文 →