• 请不要在回答技术问题时复制粘贴 AI 生成的内容 V2EX › 程序员 问一个 toB 创业卡点，现在企业内网，能部署可用的模型么？有人实践过成本多大么？
qinbingchen · 2h 21m ago · 339 views 因为企业安全原因，不可能让资料上公网大模型。 DeepSeek-R1-Distill-Qwen-14B/32B 这些类似的，能不能承担企业级别的查询呢？
toB创业 私有化部署 大模型 6 replies • 2026-10-20 13:37:36 +08:00 1 Conty 2h 20m ago via Android 在国内吗？ GPU 咋解决？
2 shintendo 2h 10m ago R1 ？我看错了吗 3 moonvstod 37 mins ago 企业低可以考虑 dgx ，一台部署 qwen27B ，两台 ds 4.1 flash ，单台成本不到 4 万 4 drupal 16 mins ago DeepSeek-R1-Distill-Qwen-14B/32B 企业级别的查询要看并发，还有上下文。
一台 dgx Qwen3.8 27B NVFP4 ，开启 vllm ，128K ，并发 5 个，实测 2 个人用问题可以接受 5 twk93 PRO 2 mins ago 14B/32B 做内网文档问答够用，但别指望它直接扛「企业级查询」。先把检索做扎实：按标题切块、带上路径，top-k 控制在 5 以内。
文档又乱又长的时候，换更大的模型基本没用。就几个人用的话，一张 24G 跑 14B 的 Q4 就行，比整机便宜多了。
6 kennylam777 Just Now 是不是問了一個沒打開 web search 又沒 agent 的 Webchat AI, 還 R1 Distill 也太舊了吧..... 你有 GPU 資源嗎?直接試試 Qwen 3.8 系列或者 Gemma4 啊