面壁智能与清华大学联合开发手机端运行的端侧大模型MiniCPM
由面壁智能与清华大学共同研发的新型端侧大模型——MiniCPM，已经在手机端成功运行。这一技术的诞生，不仅代表了模型端侧部署能力的飞跃，更预示着移动端设备在处理复杂任务方面的潜力将得到极大释放。
MiniCPM采用了创新的Int4量化技术，使得大型模型得以在手机等移动设备上运行，同时保持了与人类说话速度相当的流式输出速度。这一特性，无疑为移动端用户提供了更为流畅和实时的交互体验。
在性能方面，MiniCPM展现了令人瞩目的优势。在中...
点击查看剩余70%
{{collectdata}}
网友评论