■谢若琳

伴随着AI的使用越来越普遍，许多问题开始显现，第一个的便是内容真实有效。AI做为专用工具不具备判断能力，其生成的结果就是根据数据信息投喂和算率养成的好习惯综合性物质，那样，这些信息是否属实合理合法，直接关系到AI能否广泛应用。

日前，国信办公布《生成式人工智能管理与服务方法（征求意见）》（下称《征求意见稿》），面向社会征询建议。《征求意见稿》确立“我国适用人工智能优化算法、架构等基本技术的科技创新、全面推广、国际交流，支持优先选择选用安全可信的app、专用工具、运算数据资料”，并针对生成式人工智能服务提供商的准入条件，计算机算法、训练样本挑选、实体模型、内容，以及客户私人信息、商业机密等多个方面给出了有关要求。

在其中，有一条内容阐述了真正。一则要在第四条“给予生成式人工智能产品和服务理应遵守法律的需求，尊重社会公德、公共秩序”中指出，“运用生成式人工智能生成的内容理应真正精确，采取有效措施避免生成不实信息”。另一则要在第七条“服务提供者需对生成式人工智能新产品的预训练数据信息、优化训练信息来源的合规性担负”中指出，“可以保证数据信息真实性、精确性、普遍性、多元性”。

这就意味着，AIGC的研发平台不仅要确保投喂的数据资料真实有效，一样需要对生成的内容承担，无疑是一项很大的挑战。

实际上，在全球范围内AI赛道的顶尖参赛选手中，还没有任何一个平台对AI生成结论信息真实性开展贷款担保。先前，谷歌搜索上线的人工智能对话机器人巴德（Bard）与ChatGPT对决，只因巴德犯下事实错误，造成谷歌的股价大跌，一夜之间股价暴跌约1056亿美金。微软公司即在一份免责协议中指出：“必应是通过人工智能驱动，因而可能出现意外和不正确。”

对生成式AI产品研发者来说，保证结论真实难度系数之深显而易见。小编认为，在产品研发、试验环节，应当容许AI不断试错、调整、健全，但是随着生成式AI做为专用工具进到工业领域，逐渐点击搜索、美术绘画、互动问答，乃至程序编写、短视频生成等相关工作，那样保证真正应该是基本门坎。

也就是说，AI要抢人类工作中，从基层实体模型以来就需先处理是否属实准确的难题。假如这一问题还没有结论，那样研发平台应当谨慎向外界方面推出新品，更不可草率地将AI应用于经营环境中。

现如今，全世界根据AI的初创公司如雨后春笋不断涌现，仅仅在3月份就会有近10款AI短视频生成器问世。键入好多个关键词就可以获得一段文字、一张图片乃至一个视频，这不仅展现了科技的魅力。但一些公司为了七毒口就匆忙推出新品，造成商品质量参差不齐，一些产品生成的内容高效，更具一些产品生成的内容存有虚报。这种“深层作假”的内容一旦流传开来，极易引发社会发展舆论压力。

在笔者看来，应对新技术应用，大家不仅把握机会、勇于攀登，也无法逃避技术发展趋势所带来的各种安全隐患和伦理道德考验，需搭建有效规范化的数字规则，做“有责任心的”人工智能，立起规定确立底线，预防潜在性风险，促进科技向善。

这热血传奇太顶了吧！1500%加快 1000%掉宝率！开场狂飚！