首页 > 要闻 > 正文

OpenAI推出检测DALL-E图像的工具

来源:要闻2024-05-11 16:20:13
导读 微软支持的人工智能公司OpenAI周二宣布推出一款新工具,旨在检测数字图像是否由人工智能创建。身份验证已成为人工智能快速发展的一个主要问...

微软支持的人工智能公司OpenAI周二宣布推出一款新工具,旨在检测数字图像是否由人工智能创建。

身份验证已成为人工智能快速发展的一个主要问题,当局担心深度造假的扩散可能扰乱社会。

据该公司称,OpenAI的图像检测分类器目前正在测试中,可以评估给定图像源自该公司的生成式AI模型(例如DALL-E3)之一的可能性。

OpenAI表示,在早期版本的内部测试中,该工具准确地检测到了大约98%的DALL-E3图像,同时错误地标记了不到0.5%的非AI图像。

然而,该公司警告说,修改后的DALL-E3图像更难识别,并且该工具目前仅标记其他AI模型生成的图像的大约5%到10%。

OpenAI还表示,随着越来越多的公司签约满足内容来源和真实性联盟(C2PA)的标准,它现在将在人工智能图像元数据中添加水印。

C2PA是一项科技行业倡议,旨在制定技术标准来确定数字内容的来源和真实性,这一过程称为水印。

Facebook巨头Meta上个月表示,将从5月开始使用C2PA标准标记人工智能生成的媒体。另一家人工智能巨头谷歌也加入了这一倡议。

关键词:
版权声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。

猜你喜欢

最新文章