VicroCode
让代码创造价值
VicroCode是一个轻量级代码在线发布、交易平台,开箱即用,免部署、免服务器、免备案,支持接入智能体、通用管理系统、游戏等多种项目
稍候片刻,您可先学习AI编程手册
正在加载中...

市场信息

[Local LLM] 2 万块以内,可以本地部署的最好的模型是哪个?

不考虑输出速度的情况下

www.v2ex.com · 2026-10-06T13:18:29+00:00

V2EX › Local LLM 2 万块以内,可以本地部署的最好的模型是哪个? jedeft · 11h 14m ago · 1007 views 不考虑输出速度的情况下 模型 本地 部署 4 replies • 2026-10-06 23:44:49 +08:00 1 yidinghe PRO 11h 8m ago via Android 看看 strata 这个项目,就很适合。

https://github.com/Niko1221/Strata 2 levn 9h 17m ago glm5.3 flash > qwen3.8 next > qwen3.8 27b 3 strobber16 9h 6m ago via Android 得加钱 4 defa21312 8h 47m ago qwen3.8flash ?据称超过 27b 了,需要 12g n 卡+128g 内存 freetoken 推理,2w 还是能拿下的,decode 速度不比 27b 慢,但是 prefill 速度很慢

返回 AI 市场导读

来源:v2ex.com