V2EX › DeepSeek DeepSeek V4.1 Flash 正式发布 iFlicker · 1h 9m ago · 258 views 参数量是 552B ,看起来是重新预训练的模型,benchmark 看起来很棒。 “新一代模型大幅减少了 KV Cache 缓存的大小,与上一代模型相比,对 HBM 的需求减少到 1/4 ,对 SSD 的需求减少到 1/8 。
在 Agent 使用场景中,缓存命中的费用往往占比较高,对 KV Cache 的压缩大幅降低了 Agent 类任务的使用成本。不知道用了什么黑科技,降价也是因为成本降了。
“我们将会全力支持开源社区进行新模型的推理适配,并尝试通过各种方式扩大部署的范围。如果您有大规模部署的需求且具备相应的资源( 2k 卡 GPU 、有存储集群),欢迎与我们联系。
帮忙做适配🤣 公众号原文: /ai-market-guide/ 模型开源链接: /ai-market-guide/ 论文链接: /ai-market-guide/ DeepSeek 模型 推理 2 replies • 2026-09-10 15:25:57 +08:00 1 guagecool 12 mins ago 非常夸张 2 yidinghe PRO 5 mins ago 买 K3 套餐的那些人要哭死了 😂