跳到正文
新智元· ASI启示录·· 1 天前精选AI 评分74

英伟达开放 Nemotron 3.5 Bolt 模型权重,搭载 RTX Spark 的笔记本全球发售

刚刚,老黄RTX Spark开卖!740亿大模型塞进笔记本

AI 导读

英伟达开放 Nemotron 3.5 Bolt 模型权重,740亿参数经压缩与量化后权重降至22.1GB,瞄准24GB级本地部署;每次生成token激活约90亿参数,量化版在 Terminal-Bench 2.1 得50.98%、BrowseComp 得66.75%。

推荐理由

原文梳理了模型压缩到量化再到硬件配套的完整链条,可作为理解端侧大模型落地路径的参考。

来源:新智元 · mp.weixin.qq.com