Nvidia昨日在GTC大会上宣布具推理能力的3款Llama Nemotron模型，供企业打造AI代理人，涵括装置端到资料中心环境，也宣布微软、SAP等整合合作伙伴。

Llama Nemotron是Nvidia今年在CES（Consumer Electronics Show）大会上宣布的推理模型系列，以Llama模型为基础，配合Nvidia后训练提升其多步骤数学、编程、推理与複杂决策能力。Llama Nemotron模型有三个规格，皆可以Nvidia NIM微服务形式执行。其中，Nano可在PC和边缘装置执行、Super可在单一GPU上执行，而Ultra模型则适用于多颗GPU的服务器。

Nvidia并宣布多个云端及应用大厂将整合Llama Nemotron模型，提供其客户开发代理人，包括微软、SAP、ServiceNow等。微软Azure AI Foundry将整合Llama Nemotron模型及NIM微服务，开发整合在Microsoft 365中的AI Agent。

SAP把Llama Nemotron模型整合在其软件平台，强化SAP Business AI解决方案及自家AI助理Joule，此外，SAP ABAP程序语言模型也会使用Nvidia NIM及NeMo微服务提升程序码完成度。另一家软件业者ServiceNow则使用Llama Nemotron模型开发各种产业的AI代理人。

在Llama Nemotron之外，Nvidia也在AI Enterprise软件平台，提供新的代理人AI工具及软件。包括整理资料源及自动化AI代理人的开源工具Nvidia AI-Q Blueprint，其次用以优化代理人应用程序推理能力的新NIM微服务，可确保稳定部署Meta、微软及Mistral AI的AI模型。

第3项为AI查询代理人的可客製化参考设计Nvidia AI Data Platform，最后是协助建立AI资料飞轮（data flywheel）、持续改进AI代理人的新NeMo微服务。

Llama Nemotron Nano、Super模型及NIM微服务可在build.nvidia.com及Hugging Face託管API使用。企业用户可在资料中心和云端环境下，以Nvidia AI Enterprise执行Llama Nemotron NIM微服务。Nvidia AI-Q Blueprint预计4月推出，其中包含的工具组Nvidia AgentIQ现在可在GitHub取得。