OpenAI推出专用AI检测工具识别DALL-E生成图像准确率达98%
财联社5月7日讯(编辑 史正丞)随着AI生成的图片、视频越来越“真”,识别互联网信息来源和真实性的需求正变得愈发迫切。
当地时间周二,美国科技公司OpenAI发布公告称,为了区别照片是由相机还是自家AI生成的,公司推出了一款图像检测分类器——用来分析一幅图像是由OpenAI的“文生图”工具DALL·E 3生成的概率。公司从周二开始接受研究人员访问该工具的申请。
(来源:OpenAI官网)
识别成功率颇高
OpenAI介绍称,在内部对分类器进行的早期测试显示,该工具在区分非AI生成图像与DALL·E 3生成的图像方面成功率很高,成功率能够接近98%,同时只有少于0.5%的非AI图像被错误地标记来自DALL·E 3。同时这个工具能够应付一系列常见的修改,例如压缩、裁剪和修改图像饱和度。
(来源:OpenAI官网)
然而,这项工具也有局限性,也显示出“识别AI”这条路才刚迈上第一步。OpenAI透露,如果对图片进行一些微小的修改,就可能会扰乱工具的可靠性。同时,该工具在区分DALL·E 3与其他AIGC工具的产出方面也表现不佳。不过OpenAI也强调,开发这个工具的意图本来就不是用来检测其他热门工具(例如Midjourney)生成的图像。
OpenAI的政策规划主管大卫·罗宾逊对媒体表示,鉴于2024年是美国的选举年,选举问题绝对是推动这项工作(识别AI产物)的主要动机,这是公司从政策制定者那里听到的头号担忧。
从最新进展来看,识别AI图像的前景要明显好于分辨AI生成的文字。OpenAI曾在去年推出过一个检测AI生成文字的工具,但识别准确率低到让公司自己都强调“这个工具不可靠”。
OpenAI的AI政策研究员Sandhini Agarwal也表示,对于大选年的“深度伪造”泛滥问题,新的识别工具可能有助于遏制这种情况,但不会根治问题。Agarwal强调,在打击“深度伪造”方面,压根就没有灵丹妙药。
从源头解决问题:给AI打数字水印
除了通过识别最终作品来判断是否由AI生成外,解决这个问题还有一个更直接的方法:在工具生成图片、视频时就打上“AI水印”,后续只需要识别图片是否存在这类标记即可。
OpenAI也在周二宣布加入了C2PA的指导委员会。
C2PA的全称是内容出处和真实性联盟(Coalition for Content Provenance and Authenticity),旨在制定技术标准来对抗网络上的误导信息。其中也包括被称为“内容证书”的防篡改元数据,展示内容是如何被创建或修改的。微软、Meta、谷歌、索尼、Adobe等公司也是指导委员会的成员。
(来源:C2PA)
OpenAI确认,从今年早些时候开始,已经向由DALL·E 3 、ChatGPT和OpenAI API创建和编辑的图像中添加C2PA元数据。等到“文生视频”模型Sora大规模推出后,也将向产出添加C2PA元数据。
公司表示,使用者无法轻易伪造或者更改此类信息,这将使其成为建立信任的重要资源,相信这种元数据能够成为填补数字内容真实性的关键空白。
最近更新
-
石头科技获北向流入3.14亿南网科技收购广州汇能100%股权|科创板周报
21:01
-
天马新材周涨幅近20%泰德股份收购古河智能100%股权|北交所周报
21:01
-
派能科技董事长被立案调查
20:01
-
竞逐千亿“天空之城”北京低空经济产业基金要来了!
19:36
- 地产产业链如何关注?
- 周末炸雷突然被ST大摩看空
- 投资者称五粮液价格倒挂更严重,普五出厂价守得住吗?
- 共享汽车
- 发电能力×4!安哥拉卢阿西姆水电站焕新落成
- 卡瑞利珠单抗联合疗法延迟在美上市恒瑞医药:将尽快重新申报
- “果链一哥”立讯精密未来前景如何?
- 三元股份“内斗”重挫奶粉业务,河北三元一年赔了2000多万!
- 让波音股价下跌35%,效益产出比高达1:80,C919给中国的惊喜不是一般大
- 新“国九条”后首单IPO审议暂缓!详解马可波罗的资本故事
专栏推荐
-
研选
浓缩机构研究精华,提前捕捉市场风口
2038人已购
¥258.00/月
-
尾盘擒牛之如何选股?
学完这些方法,告别选股难!
117人已购
¥288.00/月
-
财报拆解
知识点解读+实战案例,帮你5小时学会看财报
73人已购
¥19.90/月
-
每周一股
每周日定期更新【每周一股】,为广大的投资者精选下周短线个股!
344人已购
¥588.00/月
推荐阅读
- 周杰伦共鉴“贵州味道”鸡尾酒,解锁MOJT莫其托三大场景新体验
- 一个新的超预期的方向
- 突发,周末重磅消息!(思宇金融)
- 保利发力竞逐长租赛道,后发能否先至?
- 每周一股|政策利好+资金异动+短线机会,加入关注!
- 三月四月平均胜率高达82.5%,现订阅短线狂欢VIP尊享85折优惠>>
- 7万亿楼市迎历史性时刻!央行“三箭齐发”,刺激力度空前!多路资金提前布局,这些公司获机构上调业绩预期
- 实控人及其前妻风波不断,金发科技归母净利润大跌超8成
- 一块布料的奇幻旅程:让全球看见中国品牌的责任与使命
- 【风口解读】因财报存在虚假记载,国瑞科技被罚200万元,公司股票将戴帽“ST”
- 科大讯飞高投入、高亏损,拿什么逆袭AI大模型市场?
- 寿险、盈利、引战,万亿大家保险新总经理的“老难题”