NVIDIA发布Nemotron-Nano-9B-v2 可切换推理模式的高效小语言模型

NVIDIA发布Nemotron-Nano-9B-v2 可切换推理模式的高效小语言模型

近日 NVIDIA 正式开源 Nemotron-Nano-9B-v2 轻量级大语言模型,90 亿参数搭载独家双推理切换机制,兼顾复杂逻辑精度与低延迟实时推理需求。该模型采用 Mamba2-Transformer 混合架构,仅四层注意力层,依托 20 万亿 Token FP...

点击查看剩余70%

{{collectdata}}

网友评论