vLLM

Articles related to "vLLM"

8 articles in total

FDE前沿部署工程师实战指南：从模型部署到AI Agent系统构建

本文是一份面向前沿部署工程师（FDE）的完整实战指南，系统拆解了 FDE 的核心内涵、技能树、项目实战和学习路径。文章指出 FDE 不是简单的“模型部署”，而是确保复杂 AI 能力（大语言模型、多模态模型、AI Agent、RAG）能够在真实生产系统中稳定、高效、可扩展且低成本地集成的全栈角色，其 40k 以上月薪是对“AI 应用最后一公里”复杂性的定价。核心技能体系覆盖 AI 基础（Transformer、Prompt 工程、RAG、Agent）、工程开发（Python、FastAPI 异步编程）、云原生（Docker、Kubernetes、Istio、Prometheus/Grafana）和系统设计。实战部分通过使用 vLLM 部署 Qwen2.5-7B-Instruct-AWQ 量化模型、构建 FastAPI 代理网关实现路由与监控、编写 Dockerfile 和 Kubernetes Deployment 文件完成容器化与编排，以及部署多智能体项目 My AI Town 来串联所有技能。文章还提供了常见故障排查清单（超时、OOM、推理慢、Agent 循环、Pod 重启）、最佳实践（IaC、配置分离、可观测性、成本优化、降级策略）及三阶段学习路径（基础巩固、核心技能、项目实战），并解析了面试考察的系统设计、故障排查和工程协作等方向，为求职者提供了从零到就业的路线图。

Read More →

Forward Deployed Engineer (Inference & Post-Training) - Mandarin Speaking

本文是 Together AI 通过 Zero G Talent 发布的一份面向新加坡的招聘启事，岗位为会说普通话的前线部署工程师（Forward Deployed Engineer，FDE），专门负责推理（Inference）与后训练（Post-Training）方向。该职位不是简单的解决方案架构师替代品，而是定位于深度领域专家，需要与解决方案架构师协同工作。核心职责围绕推理引擎优化展开，涉及根据硬件配置、模型架构和负载特征选型、配置并优化主流推理引擎（如 vLLM、TensorRT-LLM、SGLang）。具体技术工作包括：调整 KV Cache、应用推测解码、确定最佳张量并行度与量化策略，以达成严苛的吞吐量和延迟指标。后训练方面，候选人需亲自执行 RL 训练任务并优化系统架构，指导客户完成 LoRA、SFT、DPO、RLHF 与 GRPO 等全流程管线搭建，助力客户从实验阶段跨入生产环境。此外，FDE 还需负责战略客户的长期技术健康度，确立客户入驻平台的基线配置以缩短价值实现时间，并代表一线经验反向驱动产品路线图的演进。申请者须具备 5 年以上技术经验，对开源大模型生态有广泛认知，具备专家级推理引擎实操和诊断能力，并拥有扎实的 Python 编码功底。文章强调 Together AI 是一家研究驱动型企业，致力于通过软硬件协同设计降低 AI 成本，其团队贡献了 FlashAttention 等知名技术。岗位要求为新加坡永久居民或公民，提供初创股权及远程灵活办公选项，发布时间为 2026 年 8 月 4 日。

Read More →

Forward Deployed Engineers (FDE): 完整指南 (2026)

本文是 Kizzy Consulting 创始人兼 CEO Sanjeet Mahajan 撰写的 2026 年前线部署工程师（Forward Deployed Engineer, FDE）完整指南，系统阐述了 FDE 这一将深度全栈工程能力与客户现场咨询相结合的混合角色的定义、起源、架构职责、技术栈、技能要求和行业实践。文章指出，随着生成式 AI 和 Agentic AI 的普及，85% 的顶级 AI 企业已雇佣 FDE 进行实施交付，FDE 可将客户实现价值的速度提升 3 倍，中级 FDE 起薪超过 13 万美元，资深级别可达 30 万美元以上。FDE 角色源自 Palantir Technologies 的实践，现已拓展至 OpenAI、Anthropic、Databricks 等 AI 公司。文章深入分析了 FDE 在 Agentic AI 编排、Agentic RAG 架构、Model Context Protocol 等方面的具体工作，对比了 LangGraph、CrewAI、Semantic Kernel 等框架的适用场景，并提供了 90 天企业实施路线图和最佳实践，涵盖语义缓存、Human-in-the-Loop 安全护栏、混合搜索优化等关键策略。

Read More →

AI现场工程师 - GenAI基础设施

2026年7月8日，一家匿名的 GenAI 基础设施公司（Stealth）发布招聘信息，寻找 AI 前线部署工程师（AI Field Engineer）。该职位旨在帮助企业将开源大模型从沙盒探索推向生产环境，职责包括确定概念验证范围、运行负载测试、执行 SFT/DPO/RFT 等模型微调，并直接在客户基础设施中交付生产集成，而非停留在咨询层面。公司推理平台已为 Uber、DoorDash、Notion 和 Cursor 等知名企业提供生产服务，推理速度达到闭源模型的 15 倍，并发量提升 4 倍。职位要求候选人具备 3 年以上客户现场 AI/ML 工程经验，深度掌握 LLM 推理与训练，熟练使用 vLLM、SGLang 或 TensorRT-LLM 等推理引擎，精通 Python 编程及 AWS、Azure、GCP 等 GPU 云基础设施，并具备 Kubernetes 实战能力。理想候选人拥有 Palantir FDE、BCG X 或 McKinsey QuantumBlack 等前线部署或专业服务背景。薪资范围为底薪 176,000–224,000 美元，总包 220,000–280,000 美元（80/20 拆分），10 年以上经验可上浮，并提供股权激励。工作方式为美国境内远程办公，需定期出差至客户现场，并支持 H-1B 转移和 TN 签证担保，O-1 签证视情况而定。该招聘突出强调了实战交付能力，明确拒绝仅有闭源 API 经验的候选人，反映出开源模型生产部署对 FDE 角色的硬核要求。

Read More →

腾讯混元AI Infra如何优化Hy3 Preview：一次大模型推理性能提升的技术拆解

本文详细介绍了腾讯混元AI Infra推理团队针对旗舰大模型Hy3 Preview（采用GQA+MoE混合架构，原生支持256K超长上下文）在NVIDIA Hopper卡上的推理性能优化实践。面对Hopper卡算力较低、显存紧凑等限制，团队从算子优化与融合、并行策略、多级缓存、MTP异步调度、量化与稀疏五大维度进行全栈优化。在算子优化上，提出动态调度负载均衡的Attention算子（混合长度batch加速1.59x-1.76x），双BF16重构FP32 Router GEMM（加速2.86x-3.22x），FusedMoE流水线重构（相比vLLM等加速1.2x-1.6x）。算子融合方面，实现Fused Rope+Norm+Quant+Store KV（加速约5x），Fused AllReduce+Norm+Add（加速1.68x），采样融合算子（加速2.5x-5.5x），以及Gemm+Comm通算融合（加速1.68x-1.81x）。并行策略上，采用TPSP Prefill优化（TTFT降低24.5%-29.9%）和DP+EP Decode架构（吞吐提升15.7%-44.7%）。多级缓存构建GPU-CPU-KVStore三级体系以降低重复Prefill。MTP异步调度优化消除CPU气泡，端到端提升10%-20%。量化方面，在AngelSlim框架中通过GPTQ权重重建、激活平滑、Hadamard旋转和QAT微调实现W8A8C8无损量化，吞吐提升28%+；并应用Stem稀疏注意力算法及HPC-BSA算子，在128K上下文下Prefill延迟降低3.6倍，精度持平。文章为Hopper架构下大模型推理部署提供了系统级优化范本。

Read More →

AI 模型部署策略 | 2026 年生产部署指南

本文系统梳理了2026年AI模型部署到生产环境的12种核心策略，包括批量推理、实时推理、流式推理、边缘部署、金丝雀部署、蓝绿部署、影子部署、滚动更新、冠军-挑战者模式、多臂老虎机、无服务器推理和联邦学习。文章引用Gartner 2024年数据指出，仅29%企业成功部署生成式AI模型，48%的AI项目最终进入生产阶段，中位周期为8个月。Ademero分析显示AI项目平均回报率380%，年均节省240万美元。文中详述了各策略的适用场景、技术栈（vLLM、Triton、ONNX Runtime、Kubernetes、Kafka等）和成本考量，指出单端点实时推理月成本1800-2900美元，中型部署月费5000-15000美元。文章提供了基于延迟预算和风险容忍度的策略选择框架，强调监控、自动化CI/CD/MLOps管道、模型漂移检测以及EU AI Act合规的重要性，并给出六条2026年部署最佳实践，包括从批量起步、量化优化、关注业务指标而非仅技术指标等。

Read More →

在 Modal 上部署 GLM-5.2-FP8 (700B MoE)：8x H200 无服务器架构、权衡与实战经验

智谱AI发布了GLM-5.2，一个针对长程规划、复杂软件工程和高密度推理优化的700B参数混合专家推理模型，在SWE-bench Pro和GPQA等基准上超越或媲美Claude 3.5 Sonnet和GPT-4o等闭源模型。该模型FP8检查点权重高达703.74 GiB，需要8个NVIDIA H200 GPU（每个141GB HBM3e显存）集群才能运行。本文详细介绍在Modal无服务器GPU平台上使用vLLM部署GLM-5.2-FP8的架构、成本与实战经验。量化格式选择中，FP8在8-GPU单节点上能保留99.2%的原始智能，生成速度比INT8快1.5至2倍，而INT4精度损失严重，BF16无法单节点运行。成本方面，Modal无服务器模式按需缩放至零，20分钟开发周期实际成本约12美元，相较RunPod等传统租用平台具有显著弹性优势。自托管解决了代码隐私合规、绕过API频率限制以及保持前缀缓存稳定性等诉求。部署过程中解决了typing_extensions冲突，通过prefetch并行预取将权重加载时间从12分钟压缩到1分钟，冷启动总时间降至4.5分钟，并选择enforce-eager模式避免CUDA图编译超20分钟的问题。文章还给出生成完整网页游戏的验证案例，展示了模型在单个上下文窗口中处理复杂工程逻辑的能力。

Read More →

Qwen3-32B本地部署实战：LoRA微调+vLLM推理+Docker交付

本文是一份针对阿里巴巴通义千问系列开源大模型 Qwen3-32B 的本地化工程部署与微调实战指南。文章围绕“LoRA 微调 + vLLM 推理 + Docker 容器化交付”这一技术路径，详细记录了从环境准备、模型下载与格式转换、Docker 镜像构建、vLLM 高性能推理服务上线、到基于 Swift 框架的 LoRA 领域微调及效果验证的完整流程。核心观点强调 Qwen3-32B 作为“甜点规模”模型，在 A100-80G 单卡上即可完成推理，双卡可实现高吞吐服务，且 MMLU、CMMLU 等评测稳居开源第一梯队。技术选型深度对比了 vLLM 与 TGI 的架构差异，指出 PagedAttention 机制使 32K 长文本推理显存占用比 TGI 低 58%，吞吐量高出 2.8 倍。在 LoRA 配置上，通过梯度分析锁定 q_proj 和 v_proj 为核心目标模块，并给出 balanced 方案（q_proj+v_proj+gate_proj+down_proj，rank=8）在显存占用 31.5GB 下实现 ROUGE-L 提升 4.1 的实测数据。文章还重点描述了 Docker 从零构建的可复现策略、应对冷启动的预热技巧、QWEN 官方 AWQ 量化加速方案，以及显存溢出、模型加载失败等血泪教训。本文面向面临模型本地化、业务定制与生产环境落地的工程师，提供了可复现、可迭代、可交付的完整工作流，具有极强的工程参考价值。

Read More →