
IBM和AWS宣布强化AI合作,包括IBM大语言模型家族Granite将在Amazon云端平台推出,双方也强化整合AWS及watsonx云端平台的功能,提升安全及效能管理。
这项消息是为下周AWS re: Invent技术大会打头阵。IBM继上个月开源Granite 3.0 2B、8B模型后,Granite程序模型将在Amazon Bedrock及机器学习平台Amazon SageMaker JumpStart上架。IBM最新的Granite 3.0模型系列已经先一步在Sagemaker JumpStart提供。
透过这项合作,Granite模型现在获得AWS Neuron开发套件支援,可在AWS Inferentia及AWS Trainium晶片的云端执行个体上执行。IBM并计画其watsonx未来将支援AWS最新一代AI晶片Trainium2。
双方云端平台也将扩大整合或合作。首先,12月IBM AI模型生命周期管理watsonx.governance将进一步整合Amazon SageMaker,双方开发一个全新介面,直接以watsonx.governance管理介面管理SageMaker。SageMaker Model Registry的模型资讯可分享给watsonx,使AI运作管理透明化。
其次IBM管理机敏AI数据与AI模型安全风险的Guardium AI Security,现在在AWS Marketplace上架。这工具能发现「影子AI」(即员工私下建的AI模型),能和watsonx.governance整合,确保AI治理。
最后,云端应用管理工具Instana Generative AI Observability on AWS现在已预览版推出,可透通管理Amazon Bedrock及Amazon SageMaker,确保AWS生成式AI应用的稳定性和运作正常。此外,IBM Instana也将支援Amazon Elastic Kubernetes Services和Elastic Cloud Services,提供云端微服务的管理。
其他新宣布方面,IBM预览了IBM Concert新功能。IBM Concert利用生成式AI技术提供AWS平台上应用程序的风险管理,预计将于2025年初上线。此外有IBM Autonomous Security for Cloud(ASC)这项新技术是IBM顾问服务开发的AI解决方案,可利用Amazon Bedrock生成AI技术,加强云端安全自动化管理,预计12月全球推出。