AI形成违规违纪内容、AI变脸行骗、AI错误报告诬蔑、AI侵权行为……怎么看待AIGC时代的发展内容安全风险性？

6月19日，腾讯云服务公布领域大模型计划方案进度，正式发布MaaS（Model-as-a-Service）能力全景图片，助推企业打造出专属领域大模型。在安全防护领域，腾讯云服务在难题侧、实体模型侧、回答侧三个层面开展比较敏感信息过滤和避开。与此同时，借助腾讯官方二十余年的安全性经验与天御大数据技术能力，给予AIGC全链路内容安全解决方法，保证大模型可靠、靠谱、可以用。

AIGC产生丰富多彩创造性的与此同时，也带着一个全新的内容安全考验。相对性以往以PGC、UGC为主体的内容，AIGC时代的发展内容安全内涵和外延都有明显改变。在今年的4月，国信办公布《生成式人工智能服务管理办法（征求意见稿）》在黄独裁恐违规、避免岐视、版权保护、不实信息预防、个人信息保护等方面都有明确规定。

据统计，腾讯安全AIGC全链路内容安全解决方法，给予包括翻译校对服务项目、安全专家服务项目、设备审批服务项目、版权保护服务项目四大能力版块，遮盖AIGC类运用从模型推理到内容形成到过后经营过程的内容安全基本建设。

AIGC内容安全挑战也体现在“天文学级”的信息规模，处理内容也更复杂。以实体模型环节为例子，除开典型性的特点标明外，对标明文字的通畅度、思维逻辑、衔接性也有很高的规定。在内容形成环节,新式AI 仿冒、虚报、违背伦理、不适感内容、未成年等违规行为内容，及其AI 互动问答造成专业能力内容，都超过传统式内容风险控制的范围。

腾讯安全借助以往20很多年的安全性实战经验，积攒了万亿级的违反规定样版及其十几种订制鉴别服务项目，需要结合领域情景，为企业的内容安全基本建设“量身定制”。除此之外，腾讯安全天御风险控制还跟阿里云oss、云直播平台、云点播、视频通信等云端专用工具连通，公司在云中一次连接，就可以完成整套内容安全审批，大幅度提高高效率。

AIGC的高速发展也引起了黑灰产的新一轮攻击，运用AI变脸、批量生成著作权内容TX盈利。对于此事，腾讯安全进行了重点提升,在AIGC所引发的版权保护难点上，腾讯安全根据著作权财产统一ID库,助推企业开展著作权独创性筛选；除此之外，腾讯安全还提供了“检验、核对、法律维权”的全链路版权保护服务项目。腾讯安全从2019年9月起，对B站软件上UP主上传原创短视频开展版权监测服务项目，总计检测著作500多万部，总计发觉侵权行为连接近3000万个，进行法律维权近百万次，法律维权通过率达98%。

现阶段，腾讯安全在AIGC内容安全行业已经有好几个情景实践活动落地式，为文生文、文生图、诊疗级视频内容、长小说文本等几种公司提供内容安全服务项目，保驾护航生成式人工智能技术持续发展。

雷峰网