VicroCode
让代码创造价值
VicroCode是一个轻量级代码在线发布、交易平台,开箱即用,免部署、免服务器、免备案,支持接入智能体、通用管理系统、游戏等多种项目
稍候片刻,您可先学习AI编程手册
正在加载中...

市场信息

[分享发现] 我觉得目前小模型的训练方向都跑偏了

小模型(<10B 的模型)都学着 qwen 去卷 agentic 了。但是编程的人,总会用更大的模型来达到高效率。 反而小模型应该深耕的语言方向,移动端对话方向,都荒废了。 测了近 10 个最新的小模型,只有 Gemma4 E4B 能做好我需求的特定模版下的翻译加分析句子任务。 一个个 benchmark 分数越来越高,却都忽略了最原本的语言能力。

www.v2ex.com · 2026-09-25T09:59:40+00:00

V2EX › 分享发现 我觉得目前小模型的训练方向都跑偏了 1 qdwang · 5h 30m ago · 358 views 小模型(<10B 的模型)都学着 qwen 去卷 agentic 了。但是编程的人,总会用更大的模型来达到高效率。

反而小模型应该深耕的语言方向,移动端对话方向,都荒废了。测了近 10 个最新的小模型,只有 Gemma4 E4B 能做好我需求的特定模版下的翻译加分析句子任务。

一个个 benchmark 分数越来越高,却都忽略了最原本的语言能力。小模型 语言能力 移动端 2 replies 1 Yuk1Nooo 2h 21m ago 我觉得 op 在一定程度上有点倒果为因了,因为小模型也都是用更大的模型当教师模型训/蒸馏出来的。

不过当前确实存在如 op 所说的问题。 2 yexiaoqi 1h 34m ago 大模型还没内卷到一定的高度,小模型方向就不会定型吧

返回 AI 市场导读

来源:v2ex.com