• 请不要在回答技术问题时复制粘贴 AI 生成的内容 2.09 V2EX › 程序员 在自己家里搞了个本地大模型基座, 实现了应用内接入 AI 自由. wises · 15 mins ago · 88 views 48G 内存小主机, 通过外接显卡埠一个 5070TI 的 16G 显存,经过 claude 的优化分配. 家里内网的一些应用直接局域网接入, 外部通过一个公网域名发布, 给一些广域网上跑的应用接入了 AI, 很好用, 模型是 qwen3.6-35, 基本应用内的一些对话和调用已经足够使用. 期待显卡大降价, 这样我就可以自己开算力中心,小型的可以给朋友用的那种. No Comments Yet 本地模型 AI接入 算力中心
市场信息
[程序员] 在自己家里搞了个本地大模型基座, 实现了应用内接入 AI 自由.
48G 内存小主机, 通过外接显卡埠一个 5070TI 的 16G 显存,经过 claude 的优化分配. 家里内网的一些应用直接局域网接入, 外部通过一个公网域名发布, 给一些广域网上跑的应用接入了 AI, 很好用, 模型是 qwen3.6-35, 基本应用内的一些对话和调用已经足够使用. 期待显卡大降价, 这样我就可以自己开算力中心,小型的可以给朋友用的那种.
来源：v2ex.com