0
英伟达标志、半导体以及由3D打印制成的机械手模型组成的插画。/路透社

一直倡导公开AI软件源代码的英伟达于当地时间11日推出了自主研发的开放式（开源）人工智能（AI）模型。

据CNBC报道，英伟达当天发布轻量级AI模型“NVIDIA Nemotron 3.5 Lightning”，并表示该模型甚至可以在个人电脑的单个图形处理器（GPU）上运行。

该模型拥有总计300亿个参数，但在处理每个Token时仅激活其中30亿个。其他企业无需获得英伟达许可或支付费用，即可免费下载、使用并修改该模型。

科技媒体Interesting Engineering介绍称，与规模相近的模型相比，该模型的输出速度最高可提升4倍，尤其适合AI智能体反复执行的实际工作任务。

例如，该模型能够快速处理信息检索、运行程序、确认结果，再根据结果执行下一项任务等流程。

英伟达表示，可以将简单、重复性的工作交给Nemotron 3.5 Lightning，而将需要复杂判断的任务交给大型AI模型，从而节省成本和处理时间。

英伟达相关人士11日表示，在Nemotron 3.5 Lightning的开发过程中，公司采用了利用上位模型进行数据训练的“蒸馏”技术，将大型Nemotron模型的性能赋予轻量级模型。

英伟达首席执行官（CEO）黄仁勋上月底曾在社交媒体上与其他主要科技行业人士共同呼吁美国政府支持开源模型，并表示“应避免仓促出台可能将创新赶出海外的监管措施”。

此外，黄仁勋在上月22日公开的Axios采访中表示：“免费AI将对硬件产业带来巨大帮助”，并称“免费AI也将利好半导体产业”。

IT媒体The Information于11日报道称，英伟达正在开发参数规模达1万亿的超大型AI模型“Nemotron 4”。

金炫民 记者