V2EX › Local LLM 2 万块以内,可以本地部署的最好的模型是哪个? jedeft · 11h 14m ago · 1007 views 不考虑输出速度的情况下 模型 本地 部署 4 replies • 2026-10-06 23:44:49 +08:00 1 yidinghe PRO 11h 8m ago via Android 看看 strata 这个项目,就很适合。
https://github.com/Niko1221/Strata 2 levn 9h 17m ago glm5.3 flash > qwen3.8 next > qwen3.8 27b 3 strobber16 9h 6m ago via Android 得加钱 4 defa21312 8h 47m ago qwen3.8flash ?据称超过 27b 了,需要 12g n 卡+128g 内存 freetoken 推理,2w 还是能拿下的,decode 速度不比 27b 慢,但是 prefill 速度很慢