近年来，作为人工智能领域的新应用，深度合成技术已在多个领域大量应用。如：以深度学习、虚拟现实等为代表的生成合成类算法制作的图像、音频、视频等信息。因具备较高的娱乐性与广泛的传播性，越来越多的创作者参与其中，深度合成内容在各类社交媒体平台上呈现出较高的关注度。
然而在互联网上，因恶意使用该技术生成的音视频所造成的负面影响不容小觑。深度合成内容的技术滥用，易对广大群众和企业造成声誉损害和财产损失，并在社会、国家层面产生一定的不良影响。
当前，深度合成内容的应用场景仍在不断丰富。从AI换脸、语音合成、影像修复，再到最近大热的“元宇宙”，深度合成内容正在快速进入大众视野。随着技术成熟度的持续提升，越来越多的企业机构也开始利用深度合成技术，提供面向公众的产品和服务。
“元宇宙”等新商业思维的提出，为深度合成提供了更广阔的应用场景。“比如虚拟人、数字人即是深度合成的主要应用，也是‘元宇宙’的重要组成部分。”阿里巴巴安全感知与认知智能部负责人薛辉表示。
随着深度合成行业持续发展，深度合成产品和服务增多，内容制作的技术门槛持续降低，逐渐实现技术“平民化”，相关内容风险也在持续加剧。近年来，不法分子通过伪造音频、视频，实施诬陷、诽谤、诈骗、勒索等违法案件频发。
清华大学新闻与传播学院常务副院长陈昌凤表示，虚假内容的高难度甄别影响了事实核查的有效性，在社会重大事件或政治事件节点上，深度合成技术可能被用于操作舆论意见，借助社交媒体，使虚假信息短时间内引发产生病毒式扩散，激化社会矛盾。
今年年初，国家网信办公布《互联网信息服务深度合成管理规定（征求意见稿）》，对深度合成内容的用途、标识、使用范围以及法律责任等作出具体规定。业内认为，管理新规的即将出台，意味着深度合成将迎来规范化发展关键期。
中国工程院院士邬贺铨认为，深度合成的治理有两项要点：
第一，要持续发展技术，不能“一刀切”地禁止，避免阻碍正向应用与创新。第二，衍生出的安全问题要从源头上解决，利用技术创新、技术对抗等方式，持续提升和迭代检测技术的能力。
营业执照公示信息