DeepSeek

标签「DeepSeek」下的文章

共 2 篇文章

企业级 AI 部署新趋势：DeepSeek 本地部署结合 Claude/GPT 的混合分发策略

2026年8月7日，一则关于企业级AI模型采购与部署策略的讨论在Linux.do开发者社区引发关注。讨论揭示了一种新兴的企业AI落地路径：混合云部署与API分发模式。某公司已完成DeepSeek模型的本地化部署供内部开发团队试用，现计划进一步引入海外高端闭源模型，正面临在Anthropic的Claude与OpenAI的ChatGPT之间的选型决策。该案例的技术焦点在于利用“sub2api”（订阅转API）技术方案，将商业订阅账号转化为团队内部可共享调用的API资源，以解决账号管理与流量分发难题，试图在合规与成本控制之间寻求平衡。该事件表明，企业AI部署正从单点工具向系统化基础设施转型。DeepSeek本地部署体现了对数据隐私和推理成本的双重考量，而Claude与GPT的对比则反映了对模型推理能力上限的追求。sub2api方案暴露了现有SaaS付费模式与企业DevOps流程间的摩擦，企业急需中间层技术将AI服务无缝集成至IDE插件和CI/CD流水线。文章预测，未来AI工具链的竞争将是模型能力、开发者生态、API稳定性及分发合规性的综合博弈，混合架构将成为中长期主流形态。

阅读全文 →

推理成本砍掉一半以上，OpenAI摸着DeepSeek过河

2026年7月2日，36氪旗下“字母AI”报道，OpenAI正通过系统优化方案将模型推理成本降低超过一半，这一方案主要是受DeepSeek在KV cache压缩上的经验启发。援引外媒消息称，OpenAI在内存效率方面取得重大突破，来自一个从OpenAI剥离出的团队，其核心优化方向是KV cache的改进。KV cache是模型生成时存放前文“笔记”的热数据，必须存放在高带宽存储器HBM中，是推理成本的关键。OpenAI此前在2024年10月已通过Prompt Caching机制降低延迟和输入成本，而DeepSeek早在2024年5月便在DeepSeek-V2中通过Multi-head Latent Attention（MLA）将KV cache压缩了93.3%，提升吞吐量至5.76倍。文章进一步分析了HBM与KV cache的关系，指出虽然单请求HBM需求可能下降，但总需求未必下降，因为推理成本下降后厂商会去追求更长上下文和更高并发。在硬件层面，OpenAI已推出自研AI芯片Jalapeño，并已与Cerebras签订超100亿美元推理算力协议。文章强调，OpenAI年亏损209亿美元，正通过“软件+硬件”双路径全力降低推理成本，为上市铺路。这些举措将深刻影响大模型推理架构竞争格局。

阅读全文 →