背景图片取自 Visax on Unsplash

OpenAI于周二（5/7）宣布，已加入内容出处暨真实性联盟（Coalition for Content Provenance and Authenticity，C2PA）的指导委员会，除了将扩大对C2PA的投资外，同一天亦开始测试Deepfake图像侦测工具，协助使用者辨识内容是否出自AI。

C2PA是由微软、Adobe、Arm、英特尔、BBC及Truepic在2021年的2月共同创立，这是个联合发展基金会（Joint Development Foundation，JDF）专案，主要任务为制定技术标準以证明媒体内容的历史、来源或出处，以解决不实资讯或内容诈欺等问题，因此，该组织替常见的格式制定来源规範，不管是图像、影像、音讯或文字。现在的C2PA也成为AI时代的深伪技术（Deepfake）守门人，且C2PA的阵容也愈来愈庞大，包括AWS及高通等业者也都已加入。

C2PA指导委员会的成员皆承诺要积极开发及推动内容凭证（Content Credential）的使用，于内容中嵌入凭证来建立使用者对数位内容的信任，为C2PA所设计的开放标準之一。该委员会的既有成员还包括Adobe、BBC、英特尔、微软、Google、Publicis Groupe、Sony和Truepic 。

今年初OpenAI就在由DALL·E 3生成的图像中加入了C2PA的元资料，以记载该图像的出处，本周OpenAI宣布未来也将把C2PA整合到影像生成模型Sora。

除了C2PA之外，OpenAI也在开发新的技术来强化数位内容的完整性，包括部署防篡改的浮水印或是侦测分类器等工具，即日起便开放研究实验室或非营利单位申请测试侦测分类器，以协助OpenAI评估分类器的有效性并分析其实际应用。

根据OpenAI的内部测试，该分类器在辨识DALL·E 3作品或非AI作品上的準确度高达98%，只有不到0.5%的非AI生成图像被标记来自DALL·E 3。不过，若要是区分图像是来自DALL·E 3或其它AI模型，準确度就没那么高。

此外，OpenAI也正将音讯浮水印整合到Voice Engine语音模型中，惟目前仍处于研究预览阶段。