300亿参数

Muse Glimmer 介绍：一款可在你的设备上运行的开源智能体模型

Meta AI Research 正式发布了名为 Muse Glimmer 的开源智能体模型，并将其权重在 Apache 2.0 许可下开源。Muse Glimmer 是一个拥有 300 亿参数的模型，专门为始终在线的本地智能体工作流优化，设计目标是能在搭载单个消费级 GPU 的 Mac 或 PC 上运行。该模型旨在实现本地智能体、函数调用、本地编码及 LLM 作为评估器等用例。在训练层面，Meta 采用了紧凑的架构设计，通过基于 Muse Spark 输出的逻辑蒸馏进行预训练，并在中期训练阶段引入更长上下文和带有丰富推理痕迹的数据，最后结合监督微调、在线策略蒸馏和强化学习进行后训练。在性能上，Meta 宣称 Muse Glimmer 在同尺寸模型中表现强劲，与 Gemma4-31B 和 Qwen3.6-27B 等模型相比，具备可靠的端到端任务完成、多步推理、失败恢复及多模态输入输出能力。为了在消费级硬件上实现实用的运行速度，Meta 采用了约 4-bit 的量化技术压缩权重，并引入基于 DFlash 的轻量级推测解码起草模型，能在无损质量的前提下显著提升生成速度。该模型目前在 Hugging Face 提供下载，并将通过 Ollama、LM Studio 等合作伙伴集成，支持 llama.cpp、MLX 和 ExecuTorch 等边缘框架，同时正与 AMD、Arm、Dell、Intel 和 NVIDIA 等硬件厂商合作优化全设备性能。