可在本地电脑与手机运行的轻量级推理模型SmallThinker 3B来了

可在本地电脑与手机运行的轻量级推理模型SmallThinker 3B来了

800_auto

SmallThinker 3B 基于 Qwen2.5-3b-Instruct 模型微调而来。SmallThinker 3B 的推出标志着在轻量级设备上部署复杂AI模型的新突破。

轻量级设计与强大推理能力

SmallThinker 3B 仅拥有30亿参数,相较于其他大型模型,其体积更加轻便,适合在资源受限的设备上运行。尽管体积小,但其推理能力却非常出色。在多项基准测试中,SmallThinker 3B 的表现优于其基础模型 Qwen2.5-3b-Instruct。例如,在 A...

点击查看剩余70%

{{collectdata}}

网友评论