OpenAI

OpenAI上周公布AI模型微调功能，供企业或开发商用户自行微调AI模型以开发想要的AI应用，也为企业提供辅助微调或从头打造AI模型的服务。

OpenAI于去年8月推出GPT-3.5模型的微调API。有数千家企业或开发商利用API训练数万模型。微调可使模型更能理解训练内容、扩增特定任务相关的知识及能力。微调API也比普通ChatGPT单一提示支援更多範例，可提高回应结果品质，同时降低成本与延迟性。微调可用于模型使用特定开发语言，以特定格式总结文字、或根据用户行为生成个人化内容。已使用的企业包括工作媒合平台Indeed利用GPT-3.5 Turbo模型训练给求职者的个人化推荐讯息。透过微调模型，提升讯息精确性，并降低近80%的token量，该平台得以将讯息量减少为1/5，进而降低成本及延迟性。

在此基础上，OpenAI再增加微调功能。包括周期（epoch-based）为基础检查点（checkpoint），减少过度拟合（overfitting）造成日后必须再训练；比较性Playground UI，可同时比较多个模型输出结果，或检视在单一提示下的微调效果；整合第三方平台，第一批包括Weights和Bias，方便开发人员将微调的资料分享到其他部份软体；大量参数配置，允许从Dashboard设定，以及微调模型，而非仅能从API或SDK，其微调能力也改善，支援输入超大量参数、检视详细的训练量测值，和回复到前次配置。

如果企业需要有人帮忙微调，现在OpenAI也推出相关服务，名为自订模型（Custom Model）方案。这方案是去年11月OpenAI在首场开发者大会DevDay首次宣布并测试。上周OpenAI正式宣布自订方案下的辅助微调服务，将提供一组OpenAI技术人员协助企业训练与优化特定领域的模型。除了微调API，OpenAI的技术团队还提供超大量参数及多种「参数高效微调（parameter efficient fine-tuning，PEFT）」方法大规模训练AI模型。

这项服务可协助企业建立高效率的资料管线、评估系统和辐辏式参数和方法，提升模型效能满足企业应用场景需求，或是从头打造模型。前者客户包括韩国电信（SK Telecom，SKT），SKT在OpenAI协助下，微调GTP-4模型，以改善韩语电信客服对话的理解效能，结果使对话总结品质提高35%、意向认知準确性提升33%、客户满意分数由3.6提到4.5分（满分5分）。

而在从头打造模型的服务方面，OpenAI团队会利用新式的中训练（mid-training）及后训练（post-training）方法建立特定领域、产业及任务的模型。例如OpenAI协助律师事务所专用AI工具开发商Harvey运用法律专用的中训练方法，客製化GPT-4的后训练流程，加入专业律师意见，最后开发的模型的事实回应能力提高83%，律师满意度也比较原始GPT-4提高97%。

企业或开发商需要直接连络OpenAI以取得服务。

图片来源／OpenAI