可在本地电脑与手机运行的轻量级推理模型SmallThinker 3B来了
SmallThinker 3B 基于 Qwen2.5-3b-Instruct 模型微调而来。SmallThinker 3B 的推出标志着在轻量级设备上部署复杂AI模型的新突破。
轻量级设计与强大推理能力
SmallThinker 3B 仅拥有30亿参数,相较于其他大型模型,其体积更加轻便,适合在资源受限的设备上运行。尽管体积小,但其推理能力却非常出色。在多项基准测试中,SmallThinker 3B 的表现优于其基础模型 Qwen2.5-3b-Instruct。例如,在 A...
点击查看剩余70%
网友评论