
Nvidia发布开源工具套件AgentIQ Toolkit,让开发者在现有架构快速整合多个人工智慧代理,并加速跨框架的代理系统开发与部署。该工具套件特别针对当前人工智慧应用日渐模组化、协作化的趋势设计,透过将每个代理、工具与工作流程抽象为函式呼叫,让开发者得以重用既有资源,灵活组合应用场景,而不需重新构建原有技术堆叠。
Nvidia强调AgentIQ无关框架的特性,可与包括LangChain、LlamaIndex、Crew.ai、Microsoft Semantic Kernel等市面上常见的代理框架并行运作,也能纳入企业自建的Python代理模组。AgentIQ的出现并非要取代现有框架,而是以互补的方式切入,提供更完整的整合、观测与效能分析机制。对已开始导入代理技术的企业而言,AgentIQ可成为具弹性的基础设施选项,依专案规模与需求决定导入层级。
技术上,AgentIQ核心组件之一是内建的Profiler工具,能精细地遥测记录每个代理与工具的输入、输出Token数、推理延迟与回应时间,并进一步辨识效能瓶颈,例如当特定代理在RAG检索阶段呼叫特定语言模型延迟过高,Profiler可协助找出问题点,评估是否需更换模型或调整提示词设计。此外,AgentIQ也支援与OpenTelemetry相容的观测平台整合,方便系统管理人员即时监控与除错整体流程。
AgentIQ提供一套可重用的代理与工作流程範例,开发者可直接透过Nvidia AI Blueprint开发RAG流程、数位人类沟通介面(Digital Human Communication Interface)或研究型代理应用。AgentIQ同时也相容于MCP(Model Context Protocol),可将经MCP Server提供的工具视为AgentIQ函式,进一步扩展工具使用範畴。
AgentIQ内建完整的评估机制,可针对RAG或端对端系统进行一致性测试,并快速评估工具或模型替换对整体结果的影响。这对于部署在企业环境中的多阶段代理流程尤为重要,有助于持续改善回答品质与系统稳定性。
目前AgentIQ已在GitHub开源释出,开发者可透过pip快速安装,也可在本机建置Python环境进行测试。Nvidia预计还会在今年陆续新增多项功能,包括支援软件工程场景的完整用例、NeMo Guardrails整合、与Dynamo合作的系统层级加速,以及资料回馈与强化机制等。