微软

微软Azure AI部门上周宣布模型更新版及相关工具，包括小语言模型Phi-3的无服务器微调端点、更新Phi-3-mini模型，并增加GPT-4o mini、Llama 3.1、Mistral2作为最新模型服务。

Phi-3是微软4月发表的小语言模型，包含三种参数规模模型，分别是Phi-3-mini（3.8B）、Phi-3-small（7B）、及Phi-3-medium（14B），强调操作较简单，可用于运算效能有限或离线环境，允许资源有限的组织将之部署在成本较低的装置以及频宽受限的环境中。5月份再公布具视觉能力的模型Phi-3-vision 4.2B。

微软上周发表Phi-3微调管道。虽然6月份微软为了Copilot+ PC，微调出专门执行于这类Windows PC上的Phi Silica模型，但是开发人员还无法自行微调。现在，微软Azure AI工具Models-as-a-Service（无服务器端点）正式上线，Phi-3-small模型将可利用这项服务进行微调，微软提供128K及8K context window版本，Phi-3-vision很快也可利用Models-as-a-Service端点微调。

微软并在上个月宣布Phi-3-mini的更新版本，宣称核心品质及听从指令的能力更提升。该公司说模型经过重新训练，现在理解指令能力大幅改进，来回对话品质和理解能力更高，且支援XML与JSON结构化输出以及<"system|>提示。

最后，微软宣布Azure AI加入更多AI模型生力军，现在平台上的模型已来到1,600多个。本月Azure OpenAI Service平台增加了刚公布的OpenAI GPT-4o mini、Meta Llama 3.1 405B/70B/8B和Mistral Large 2，以及最新的Cohere的Rerank，后者支援100多种语言、4k context windows，它也具备语义搜寻力，可搜寻半结构化资讯，如邮件、收据、JSON文件、程序码和表格等。