喜好儿网OpenAI 添加了一个新工具来检测图像是否是使用 DALL-E AI 图像生成器制作的，以及新的水印方法以更清晰地标记其生成的内容。
OpenAI 在一篇博客文章中宣布，它已经开始开发新的来源方法来跟踪内容并证明它是否是人工智能生成的。其中包括一个新的图像检测分类器，它使用人工智能来确定照片是否是人工智能生成的，以及一个防篡改水印，可以用不可见的信号标记音频等内容。
分类器预测图片是由 DALL-E 3 创建的可能性。OpenAI 声称，即使图像被裁剪或压缩或饱和度发生变化，分类器也能工作。虽然该工具可以检测图像是否是使用 DALL-E 3 制作的，准确率约为 98%，但其在判断内容是否来自其他 AI 模型方面的性能并不那么好，仅标记来自其他图像生成器的 5% 到 10% 的图片，就像Midjourney一样。
OpenAI 之前将内容凭证添加到内容来源和权威联盟 (C2PA) 的图像元数据中。内容凭证本质上是水印，其中包括有关图像所有者及其创建方式的信息。 OpenAI 与 Microsoft 和 Adobe 等公司都是 C2PA 的成员。本月，OpenAI 也加入了 C2PA 的指导委员会。
这家人工智能公司还开始向语音引擎的剪辑添加水印，该引擎的文本转语音平台目前处于有限预览状态。
图像分类器和音频水印信号仍在完善中。 OpenAI 表示，需要获得用户的反馈来测试其有效性。研究人员和非营利新闻团体可以通过将图像检测分类器应用到 OpenAI 的研究访问平台来测试它。
OpenAI 多年来一直致力于检测人工智能生成的内容。然而，到了 2023 年，它不得不终止一个试图识别 AI 书写文本的项目，因为 AI 文本分类器的准确度始终较低。
