目前主流的AI生成专用工具如ChatGPT、DALL-E和Midjourney能够降低建立虚报图象、视频音频文字的难度成本费,使互联网上的AI生成内容泛滥成灾且难以辨认。为了能让消费者与平台区别内容真伪及由来,谷歌搜索、Adobe、微软公司等科技公司正在探寻怎么看待这种情况。

目前为止,微软公司将于2款运用中加入水印和元数据作用;Adobe研发了一种能够追踪AI编写内容的一种手段;谷歌搜索将于照片和文档中标识AI生成,并和Midjourney等合作。但是,这种方式方法还是处于初始阶段,在寻找靠谱解决方案以前,事实核查依赖于视频审核来补足短板。伴随着AI生成内容造成速度逐渐加快,很多技术专业事实核查者要审批的内容早已远高于人们很有可能处理范畴。

为了能对AI生成内容加上标识,欧盟国家执法机关“欧洲地区警察机构”的一份汇报预测分析,到2026年,网络上高达90%的内容很有可能是通过AI建立或编辑。反不实信息服务平台NewsGuard表明,现阶段,早已有一些全部由AI生成的新闻媒体发生,总数近三周提高近三倍。一个人工智能技术生成文章的标题出现在了TNewsNetwork.com上,这是一个密名经营的新闻媒体,于2023年2月申请注册。

专家指出,一种应用元数据、水印等技术架构新方法或许可以帮助大家分辨真假。元数据或者与数字图像处理文档相关的内容,能够提供内容的最基本小细节,如相片拍摄时间地点。现阶段,很多科技有限公司也支持应用这一技术则在商品上对AI生成内容开展某类方式的标识,并不断让这些数据更为公布,以帮助大家分辨内容信息真实性。

比如微软公司则在本年度Build交流会上发表了为AI生成的图片与视频加上水印和元数据的新功能,致力于标识内容的源头和生成方法。该功能同样会在几个月里在微软公司的Designer和Image Creator2款运用中发布。除此之外,软件工具开发人员Adobe的内容真实有效提倡组研发了一种名为内容凭证的一种手段,能够追踪图象什么时候被AI编写。Adobe把它形容为一个标识,不管文件发布或存放在哪儿,该标识都是会随文档一起储存。比如,Photoshop最新发布的作用Generative Fill应用AI在原有源图像迅速建立新内容,内容凭证能够追踪这种变更。

谷歌搜索则在I/O 2023开发者大会上都表明,将来几个月里,谷歌图片的AI生成结论下边可能另附类似版权声明书面公布。除此之外,谷歌搜索也将则在AI系统软件生成的位图文件中标识元数据。即客户在谷歌搜索引擎里看到一个由谷歌搜索AI系统软件生成的影像时,会在下边表明类似“由谷歌搜索AI生成”字样。此外,该企业公布,它将和Midjourney和摄影照片网址Shutterstock等合作,让她们自主标识谷歌搜索引擎里的AI生成图象。

除开发布AI新产品的科技有限公司以外,别的行业龙头企业也专注于怎么给AI生成的内容贴标签。2021年,包含微软公司、Adobe、BBC和intel等在内的一些大企业一同创立了名叫C2PA(Coalition for Content Provenance and Authenticity)的同盟,并制定了一个互操作性的开放标准,让每个企业可以分享新闻媒体的源头或使用权历史时间。比如,一个主流媒体的摄像师能够标识一张特殊图片拍摄的时间也、摄影者,然后让出版公司对它进行电子签名。以后,编写能够对相片进行调整,再度签字并盖紧通过C2PA 规范认证信息真实性图章。那样,你就会知道照片是通过一个人拍的,而非由AI生成的,而且了解到底谁是什么时候对此进行了编写。该方法应用密码算法来维护隐私信息的个人隐私。

C2PA在去年1月发布第一个开放标准,Adobe和微软公司相对应表示将C2PA规范整合到其产品中,例如微软公司的Image Generator和Designer,Adobe则则在一个新的AI Firefly新产品的内容凭据中应用C2PA规范。“你如今可以真正了解一件数据内容至始至终的源头变化。”数据内容信赖服务平台Truepic都是C2PA中的一员之一。

C2PA机构已经讨论是不是需要对内容证明动态显示开展统一规范。将来,C2PA证实很有可能像浏览器窗口里URL旁证实连接安全小锁标示一样,客户当看到制订的C2PA标志时,就可以知道看到的影像早已已通过由来认证。现阶段,是不是选用C2PA规范由企业自主决定,并依据她们的想法标识通过检验的内容。“最大的考验就是我们需要更多企业添加的标准。”

除开元数据标识以外,另一种方法是什么让AI设备在内容上加上看得到的水印。比如OpenAI在DALL-E图象底端加上彩虹条。该公司认为,它还正为文本生成专用工具ChatGPT开发设计一种水印版本号。但是,相比元数据标识,水印非常容易被清除。除此之外,很多公司也采用了过后检验AI生成内容的专业技术。在今年的1月,OpenAI发布一个专用工具,让消费者交叉检查一段文字,明确它是不是由AI生成。但是根据OpenAI自身评估,这个软件可能并不靠谱,只有准确鉴别评估中26%的AI生成文字。

针对自动检索AI生成内容的专业技术平台来说,那只是初始阶段。在找到一个靠谱解决方案以前,事实核查只能依靠视频审核来补足短板。比如,5月30日,推文曾发布公告显示选用众包平台事实核查的办法辨别AI生成的不实信息。人民权利与中国公民新闻媒体Witness的执行主任罗伯·格雷戈里称,尽管像加上水印这种AI识别系统计划方案挺有发展前途,但很多事实核查者依然担忧在这段时间AI可能产生的不实信息的强烈围攻。事实上,很多技术专业事实核查者要审批的内容早已远高于人们很有可能处理范畴。

TikTok于2023年3月修定了有关“生成内容”最新发布的要求,称服务平台容许AI生成内容,那如果它显示出了真实情景,图象必须使用外挂字幕、贴纸图片或多种方式确立公布。但该网站不可以生成内容包括一切非公共性角色或18周岁以下者的人像。TikTok表明,它和行业非营利性组织Partnership on AI等外界机构协作,就遵循有责任心的AI实践活动架构给予意见反馈。“尽管我们对AI为作者给予创意机遇感到满意,但我们也坚定不移的旨在为其安全与全透明应用制订保障措施。”TikTok新闻发言人在一份声明中说,“和我们行业内的多数人一样,我们将继续与权威专家协作,检测AI识别系统的推进,并不断优化我们自己的方式。”

除开TikTok,其他一些平台上的现行政策可能还需要一些升级。现阶段,Meta(有着Facebook和Instagram)和YouTube就只有有关避免AI生成内容欺诈客户的一般规则,但却没有回应什么主要用途是能够接纳或者不能接受的。“AI远远超过了一切本人、公司或者我国的范围,必须全部相关者的合作。”Meta在一份声明中说,“大家正在努力检测一个新的发展趋势,并不断调节目前严格监管方式。”

彻底辨别AI生成内容的办法也许不会迅速来临。现阶段,这种标识AI生成内容的工具还是处于初始阶段,但能协助减少风险。在技术上讲,水印或元数据能被伪造。并且不是所有AI生成系统软件都想公布这是AI生成的。除此之外,大家通常会忽略事实实情,而愿意相信合乎她们个人信仰的谎话。因而,要记住这种AI标识能否改变大家的念头,需要更多科学研究。

这种AI标识是否可行,必须更长的时间来分析。标识设计和结算方式也会影响到实际效果。若想要解决这些问题,既需要新技术的应用发展趋势,行业标准产生与执行,也要社会方面对事实和事实真相高度重视,及其大众对AI生成内容的当心。总体来说,这是一个社会现象而非纯技术难点。