HuggingFace

Articles related to "HuggingFace"

5 articles in total

August 19, 2026

英伟达发布 Cosmos 3 Edge，可在机器人端侧运行的世界模型

英伟达于 2026 年 8 月 19 日发布 Cosmos 3 Edge，这是一款专为机器人端侧控制设计的 4B 参数 omni 模型，包含一个 2B 参数的 Nemotron 推理器。该模型属于 Cosmos 3 系列，与 Cosmos 3 Nano 和 Cosmos 3 Super 共享物理世界数据预训练，具备物体运动和交互的基础理解。其核心优势在于模型足够小，可直接在英伟达 Jetson Thor 上运行，无需数据中心 GPU。后训练是使模型适应机器人操作任务的关键，英伟达提供了完整教程，训练数据来自 nvidia/Cosmos3-DROID 数据集，包含 7.6 万条成功遥操作轨迹，覆盖 86 个任务和 564 个场景，使用 Franka Panda 机械臂和 Robotiq 夹爪采集。后训练验证配置需要 64 个节点，每节点配备 4 块 GB200，共 60K 次迭代，耗时约 68 小时，总计约 1.74 万 GB200 小时。在 Jetson AGX Thor T5000 上，后训练策略实时运行，生成动作块约需 1.53 秒，覆盖 2.13 秒运动，闭环 RoboLab 任务成功率达 22.9%。该模型支持多种机器人本体，包括双臂 Franka、UR、WidowX 250 和 LeRobot SO101，教程和代码已开源。这一发布降低了机器人对数据中心算力的依赖，推动了具身智能在边缘场景的应用，标志着英伟达在边缘 AI 和机器人领域的布局进一步深化。

August 11, 2026

AI Engineer, FDE (Forward Deployed Engineer)

本文是Databricks在印度班加罗尔发布的AI工程师-FDE前线部署工程师招聘信息。该岗位隶属于Databricks的AI Forward Deployed Engineering团队，这是一个高度专业化的客户面AI团队，负责为客户交付专业服务，帮助其构建并产品化首创AI应用。岗位核心职责包括利用Databricks AI研究的最新技术开发尖端GenAI解决方案，涵盖RAG、多智能体系统、Text2SQL及模型微调等；负责面向消费者及内部的GenAI应用的生产上线；并作为客户的可信技术顾问。该职位要求与工程、产品及开发者关系团队跨职能协作，影响产品路线图，并在Data + AI Summit等顶级会议上发表演讲。技术栈方面，候选人需具备使用HuggingFace、LangChain、DSPy等工具构建GenAI应用的实战经验，以及在大规模分布式数据集上使用Databricks Intelligence Platform和Apache Spark的经验。任职要求强调生产级机器学习部署能力，涉及AWS、Azure或GCP云平台，且需具备在pandas、scikit-learn、PyTorch等常见工具上的多年数据科学行业经验。该职位支持远程办公，要求候选人拥有计算机科学或统计学等相关量化专业硕士学位，并具备向非技术受众传达技术概念的沟通能力。

July 7, 2026

高级AI工程师 - FDE（前向部署工程师）- 美国联邦部门 - Databricks

本文是Databricks发布的Sr. AI Engineer - FDE（前线部署工程师）招聘信息，工作地点位于美国华盛顿特区、马里兰州或弗吉尼亚州，服务于美国联邦部门。该职位隶属于Databricks高度专业化的客户面向AI团队——AI FDE团队，核心职责包括利用Databricks AI研究的最新技术开发前沿生成式AI解决方案，涵盖RAG、多智能体系统、Text2SQL、模型微调等应用，并负责GenAI应用的生产环境部署、评估与优化。候选人需使用HuggingFace、LangChain、DSPy等工具，并具备在AWS、Azure或GCP上部署生产级机器学习系统的经验。由于联邦合同要求，该职位强制要求美国公民身份及获得美国政府机密许可的能力，持有现行Secret或更高级别许可者优先。职位薪资范围为182,000至250,208美元年薪，并提供年度绩效奖金、股权等福利。Databricks强调其平台已被Comcast、Condé Nast、Grammarly及超过50%的财富500强企业采用，由Lakehouse、Apache Spark、Delta Lake和MLflow的原创者创立。该职位需要跨职能协作，影响产品路线图，并在Data + AI Summit等会议上担任思想领袖。

June 23, 2026

Qwen3-32B本地部署实战：LoRA微调+vLLM推理+Docker交付

本文是一份针对阿里巴巴通义千问系列开源大模型 Qwen3-32B 的本地化工程部署与微调实战指南。文章围绕“LoRA 微调 + vLLM 推理 + Docker 容器化交付”这一技术路径，详细记录了从环境准备、模型下载与格式转换、Docker 镜像构建、vLLM 高性能推理服务上线、到基于 Swift 框架的 LoRA 领域微调及效果验证的完整流程。核心观点强调 Qwen3-32B 作为“甜点规模”模型，在 A100-80G 单卡上即可完成推理，双卡可实现高吞吐服务，且 MMLU、CMMLU 等评测稳居开源第一梯队。技术选型深度对比了 vLLM 与 TGI 的架构差异，指出 PagedAttention 机制使 32K 长文本推理显存占用比 TGI 低 58%，吞吐量高出 2.8 倍。在 LoRA 配置上，通过梯度分析锁定 q_proj 和 v_proj 为核心目标模块，并给出 balanced 方案（q_proj+v_proj+gate_proj+down_proj，rank=8）在显存占用 31.5GB 下实现 ROUGE-L 提升 4.1 的实测数据。文章还重点描述了 Docker 从零构建的可复现策略、应对冷启动的预热技巧、QWEN 官方 AWQ 量化加速方案，以及显存溢出、模型加载失败等血泪教训。本文面向面临模型本地化、业务定制与生产环境落地的工程师，提供了可复现、可迭代、可交付的完整工作流，具有极强的工程参考价值。

AI Engineer - FDE (Forward Deployed Engineer)

本文是一则来自Databricks的招聘启事，职位为AI工程师 - 前线部署工程师（Forward Deployed Engineer, FDE），工作地点位于瑞典斯德哥尔摩。该职位隶属于Databricks高度专业化的客户服务型AI前线部署工程团队，团队编号为CSQ227R178，向EMEA地区的高级经理汇报。FDE团队的核心任务是交付专业服务，帮助客户构建并产品化首创的AI应用，并与工程、产品和开发者关系团队跨职能合作，塑造长期战略优先事项。职位的主要影响力包括：开发融合Databricks AI研究成果的尖端生成式AI解决方案，负责面向消费者和内部的生成式AI应用的生产环境部署，担任不同领域客户的可信赖技术顾问，以及在Data + AI Summit等会议上发表演讲，成为内外部公认的思想领袖。候选人需具备构建RAG（检索增强生成）、多智能体系统、Text2SQL和模型微调等生成式AI应用的经验，并熟练使用HuggingFace、LangChain和DSPy等工具；必须精通在AWS、Azure或GCP上部署生产级机器学习系统。优先考虑有使用Databricks智能平台和Apache Spark处理大规模分布式数据集经验的候选人。Databricks总部位于旧金山，全球拥有超过30个办事处，其统一的Data + AI平台被包括阿迪达斯、AT&T、拜耳、万事达卡和70%的财富500强在内的超过20,000家组织使用，平台包含Genie、Lakebase、Agent Bricks、Lakeflow、Lakehouse和Unity Catalog等组件。