导读 微软支持的人工智能公司OpenAI周二宣布推出一款新工具,旨在检测数字图像是否由人工智能创建。身份验证已成为人工智能快速发展的一个主要问...
微软支持的人工智能公司OpenAI周二宣布推出一款新工具,旨在检测数字图像是否由人工智能创建。
身份验证已成为人工智能快速发展的一个主要问题,当局担心深度造假的扩散可能扰乱社会。
据该公司称,OpenAI的图像检测分类器目前正在测试中,可以评估给定图像源自该公司的生成式AI模型(例如DALL-E3)之一的可能性。
OpenAI表示,在早期版本的内部测试中,该工具准确地检测到了大约98%的DALL-E3图像,同时错误地标记了不到0.5%的非AI图像。
然而,该公司警告说,修改后的DALL-E3图像更难识别,并且该工具目前仅标记其他AI模型生成的图像的大约5%到10%。
OpenAI还表示,随着越来越多的公司签约满足内容来源和真实性联盟(C2PA)的标准,它现在将在人工智能图像元数据中添加水印。
C2PA是一项科技行业倡议,旨在制定技术标准来确定数字内容的来源和真实性,这一过程称为水印。
Facebook巨头Meta上个月表示,将从5月开始使用C2PA标准标记人工智能生成的媒体。另一家人工智能巨头谷歌也加入了这一倡议。