大家好，我是木易，一个持续关注AI领域的互联网技术产品经理，国内Top2本科，美国Top10 CS研究生，MBA。我坚信AI是普通人变强的“外挂”，所以创建了“AI信息Gap”这个公众号，专注于分享AI全维度知识，包括但不限于AI科普，AI工具测评，AI效率提升，AI行业洞察。关注我，AI之路不迷路，2024我们一起变强。
如何辨别一张图片是由AI工具生成的还是传统摄影技术拍摄的？在文生图模型越来越强大的背景下，这个问题会变得越来越难回答。
面对这一挑战，OpenAI提出了两种解决方案。首先，与行业合作伙伴共同努力，采纳、开发并推广一种开放标准，旨在帮助用户识别和验证各种类型数字媒体内容的生成或编辑所使用的工具。这将有助于建立一个统一的标准，使得追踪和鉴别AI生成的内容变得更加容易。其次，OpenAI正在开发新的技术，特别是那些能够辅助用户识别由其AI工具生成内容的技术。这些辅助技术将为用户提供更好的判断内容来源的能力，从而提高内容的可信度。
北美时间5月7日，OpenAI官宣了一款AI图片检测工具，专门用于识别由其自家的文生图模型DALL·E 3模型生成的图片，并且准确率高达98%。
OpenAI加入C2PA
OpenAI认为当今世界需要一套通用方法来共享数字内容创作方式的信息。无论内容是来自相机的原始输出，还是像DALL·E 3这样的工具创作的艺术作品，标准都可以帮助阐明内容的制作方式，并以一种在多种情况下都易于识别的方式提供有关其来源的其他信息。
为此，OpenAI加入了C2PA（Coalition for Content Provenance and Authenticity，内容出处与真实性联盟）的指导委员会。C2PA是一种广泛使用的数字内容认证标准，由包括软件公司、相机制造商和在线平台在内的众多参与者共同开发和采用。C2PA可用于证明内容来自特定来源。
实际上，在今年的早些时候，OpenAI就已开始在ChatGPT和OpenAI API中为DALL·E 3（这是两种能够使用DALL·E 3文生图模型的方法）创建和编辑的所有图像添加C2PA元数据。除图像外，OpenAI还计划在其即将推出的视频生成模型Sora中整合C2PA元数据。这将进一步扩大AI生成内容识别和验证的覆盖范围。
OpenAI发布新工具识别AI生成内容
除了参与C2PA标准的制定，OpenAI还在开发新的内容溯源方法，以提高数字内容的完整性。这包括实现防篡改水印技术，即在音频等数字内容中嵌入难以去除的不可见信号，以及开发检测分类器，即使用人工智能评估内容来自生成模型的可能性。这些工具旨在提高内容来源信号的抗篡改能力。
OpenAI正在通过其研究者访问计划，向测试人员开放其图像检测分类器的访问申请，包括研究实验室和研究型新闻非营利组织。这个工具可以预测图像是否由OpenAI的DALL·E 3生成。OpenAI的目标是促进独立研究，评估分类器的有效性，分析其实际应用，发掘相关考虑因素，并探索AI生成内容的特点。
OpenAI的内部测试显示，早期版本的分类器在区分非AI生成图像和DALL·E 3创建的图像方面具有很高的准确性。在内部数据集上，它正确识别了约98%的DALL·E 3图像，而错误标记为DALL·E 3生成的非AI图像不到0.5%。分类器能够处理压缩、裁剪和饱和度变化等常见修改，对其性能的影响最小。此外，OpenAI发现，分类器在区分DALL·E 3生成的图像和其他AI模型生成的图像方面表现较差，目前会将内部数据集中5-10%的其他AI模型生成的图像标记为DALL·E 3生成。
除了图像检测，OpenAI还在其自定义语音模型Voice Engine中加入了音频水印技术，该模型目前处于研究阶段。
结语
以己之矛，攻己之盾。OpenAI这波操作可以的。
精选推荐
- 完全免费白嫖GPT4的三个方法，都给你整理好了！
- AI领域的国产之光，ChatGPT的免费平替：Kimi Chat！
- Kimi Chat，不仅仅是聊天！深度剖析Kimi Chat 5大使用场景！
- 我用AI工具5分钟制作一个动画微电影！这个AI现在免费！
- 当全网都在疯转OpenAI的Sora时，我们普通人能做哪些准备？——关于Sora，你需要了解这些！
- 文心一言4.0 VS ChatGPT4.0哪家强？！每月60块的文心一言4.0值得开吗？
- ChatGPT和文心一言哪个更好用？一道题告诉你答案！
- 字节推出了“扣子”，国内版的Coze，但是我不推荐你用！
- 白嫖GPT4，Dalle3和GPT4V - 字节开发的Coze初体验！附教程及提示词Prompt
- 2024年了你还在用百度翻译？手把手教会你使用AI翻译！一键翻译网页和PDF文件！
都读到这里了，点个赞鼓励一下吧，小手一赞，年薪百万！😊👍👍👍。关注我，AI之路不迷路，原创技术文章第一时间推送🤖。
版权归原作者 木易AI信息差 所有， 如有侵权，请联系我们删除。