端侧AI

Articles tagged "端侧AI"

2 articles in total

Needle 2 发布:仅 14MB 的超轻量级基础模型,赋能端侧 AI 应用

cactus-compute 在 GitHub 开源了名为 Needle 2 的超轻量级基础模型,模型体积仅为 14MB,专门针对手机、可穿戴设备、智能家居和机器人等资源受限的小型设备优化。该模型的核心竞争力在于极致轻量化,14MB 的大小使其能轻松装入大多数嵌入式设备的闪存,甚至能在高端微控制器的 SRAM 中运行,极大降低了对存储空间和运行内存的要求。Needle 2 支持在端侧直接部署,无需依赖高带宽云端计算,为边缘计算提供了极具竞争力的基础架构。主要应用场景涵盖移动与可穿戴设备(如智能手机和智能手表)、智能家居(传感器、智能开关)以及机器人领域,为小型机器人提供本地化模型支持,以实现更快响应和更高隐私安全。Needle 2 的出现标志着端侧 AI 进入精细化阶段,为 AIoT 普及提供低门槛起点,并通过本地数据处理保障隐私,可能引发行业对模型小型化技术路径的重新关注,推动更多针对边缘计算优化的算法架构诞生。

Read More

云端token爆发后,端侧算力起步:智能体一体机迎来六路玩家

本文深度剖析了2026年6月智能体一体机市场的最新竞争格局与产业逻辑。随着云端AI Token爆发,本地端侧算力需求正式起步,一个全新的硬件品类——智能体一体机正在成型。文章定义了该品类的核心形态:一种搭载较强本地显卡算力(通常为128GB显存),能支撑3-5人小团队或超级个体本地运行模型和智能体的桌面级主机,售价在1.8万至3.3万元区间。目前市场形成了四种技术路线:苹果Mac Mini方案、NVIDIA的DGX Spark及与联发科合作开发的RTX Spark方案、AMD锐龙AI Max+ Windows主机方案,以及低价低功耗的Intel N97网关方案。文章重点复盘了前两次AI硬件“退货潮”的教训——2025年DeepSeek一体机因有算力无应用而被闲置,2026年MacMini因用户跟风购买OpenClaw却没有具体工作需求而退货,指出当前第三波热潮的理性之处在于:经过迭代的Agent能力已达“大学生”级别,真正开始解决具体、高频、重复的实际工作任务(如律师知识检索、零部件销售报价、财务发票计税)。产业面临的核心挑战是“高不能低不就”:端侧算力场景不如云端丰富,单卡算力有限,但2.3万元以上的高价让普通用户望而却步。六路入局玩家(传统PC厂、芯片厂、AI初创、行业方案商、通用方案商、跨界者)的差异化在于软件生态,谁能提供开箱即用的智能体工作流(如企业知识库、法务财务Agent),谁就能在竞争中胜出。

Read More