AI小模型风兴起:英伟达与Mistral开源12B参数128k上下文小模型Mistral?NeMo

AI小模型风兴起:英伟达与Mistral开源12B参数128k上下文小模型Mistral?NeMo

800_auto

?英伟达和Mistral AI合作开发了一个名为 Mistral NeMo 的 AI 模型,拥有 120 亿参数和 128k 的上下文窗口。

这个模型在推理能力、世界知识和编码准确性方面达到了同类产品的最高水平,打败了gemma2与llama3.

800_auto

Mistral NeMo 使用了新的分词器 Tekken,能够更有效地压缩自然语言文本和源代码,特别是在多语言场景...

点击查看剩余70%

{{collectdata}}

网友评论