日前，清华大学人工智能研究院及其核心孵化企业北京瑞莱智慧科技有限公司，联合清华大学新传院智媒研究中心、国家工业信息安全发展研究中心、北京市大数据中心共同发布了《深度合成十大趋势报告（2022）》。
【去年发布的深度合成视频数量，较2017年增长10倍以上】
深度合成技术，是指利用深度学习、虚拟现实为代表的合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术。2017年，一位名叫“Deepfakes”的用户在美国Reddit网站上分享了篡改人脸的色情视频，将深度合成技术带到了大众面前。
《报告》显示，近几年，深度合成内容制作和传播数量高速增长。2021年发布的深度合成视频数量，较2017年已增长10倍以上。此外，深度合成内容关注度也呈指数级增长，以视频的“点赞/喜欢”互动数据为例进行统计，2021年新发布的深度合成视频的点赞数已超过3亿。
深度合成领域的论文数量自2017年持续以每年30%速率高速增长。论文研究之外，深度合成领域开源项目也以每年30%速率持续攀升。
《报告》显示，深度合成的应用场景不断丰富，如修复历史照片、AI手语主播、虚拟偶像等应用。越来越多的企业机构开始利用深度合成技术提供面向公众的产品和服务。图像和视频在深度合成应用的初期最为普遍，由于产品质量良莠不齐且容易侵犯用户隐私，监管规范到位后其数量逐渐减少。音频方面，语音合成已经成为人机交互的重要一环，且被广泛应用于智能硬件、智能客服、语音导航、有声读物、机器人、语音助手等场景。文本方面，深度合成在诗文创作、聊天问答等方面得到越来越多的应用，并显现出创作效率和未来潜力。
《报告》预测，伴随着自动数据生成、全身合成、3D塑型等技术的逐渐成型，一个新的人类生存场景将以深度合成技术为基石展开。元宇宙就是基于深度合成技术打造的未来人类虚拟数字空间，它“完成了对现实空间和时间的多重复制和延伸，跳脱了传统物理空间的局限，提供了一个虚拟人、自然人和机器人融生的逼近现实且超越现实的新世界”。
【技术门槛越来越低，违法行为屡见不鲜】
《报告》认为，在深度合成技术向社会生活各个领域渗透之时，深度合成内容负面风险持续加剧且产生实质危害。深度合成内容制作的技术门槛越来越低，制造虚假视频、虚假音频进行诬陷、诽谤、诈骗、勒索等违法行为屡见不鲜。
人类的传播活动，也因深度合成技术逐渐步入“深度后真相”时代。《报告》分析，首先，“深度伪造”深刻影响了对真相的记录，对虚假内容高难度的甄别影响了事实核查的有效性。其次，深度合成技术若被恶意使用，将借助社交媒体，使虚假信息短时间内在互联网上产生病毒式的扩散和蔓延。第三，在日常事件的信息发布与追踪中，深度伪造的信息还会造成舆论意见的不断翻转，激化社会不同群体的矛盾，削弱主流意见对社会的弥合作用。亟须警惕的是，深度合成技术的恶意伪造内容通常迎合大众猎奇心理，具有极强的意识塑造能力。
《报告》还指出，深度合成内容的鉴别正面临技术挑战。新型伪造方法层出不穷，加上基于深度神经网络的检测算法存在结构性缺陷等，鉴别技术也面临“强对抗性”，需要持续更新与迭代优化。这类似于“猫鼠游戏”，深度合成和鉴别在不断学习攻防过程中会自我进化，规避上一代的对抗技术。目前，国内外学术界和产业界均已对鉴别检测技术的研发进行了大量投入，瑞莱智慧等科技企业推出了检测产品，支持对多种换脸方法进行检测。
世界各国纷纷出台法律法规，探索对深度合成的依法管理。今年1月28日，国家互联网信息办公室发布《互联网信息服务深度合成管理规定（征求意见稿）》并公开征求意见，旨在促进深度合成技术依法合理、有效利用，规范发展互联网信息服务深度合成活动。
【深度合成治理，需法律、伦理、技术三者合力】
如何规范深度合成技术应用、最大限度地趋利避害，多位业界专家学者从伦理和治理的角度表达了自己的看法。
中国科学院院士、清华大学人工智能研究院创始院长张钹，在《报告》中表示，人工智能的治理是一项长期任务，既要走创新发展的道路，坚持发展更加安全、可靠、可控的人工智能；还要抓人工智能的治理，从伦理规范、法律法规、行业共识等不同层面去发力。
中国社科院哲学所科技哲学研究室主任段伟文建议，应展开系统性、前瞻性的跨学科研究，对深度合成可能出现的高风险应用场景，进行针对性的治理与监管。
对于深度合成内容治理路径的探索，清华大学新闻与传播学院常务副院长陈昌凤表示可以从技术、伦理与法制等几个方面努力，技术方面，通过政府与社会组织参与、协同治理，伦理方面，确立和倡导相关的深度合成原则。
中科院自动化所研究员、联合国教科文组织AI伦理特设专家组专家曾毅则倡导产业发展自律自治，他表示，在法律法规不完全成熟及体系化之前，产业界自身应强化“理论先行”意识，作为产业共同体共同防范滥用、严禁恶用。
北京瑞莱智慧科技有限公司首席执行官田天也表示，深度伪造的本质问题是透明度不足，因此提高公众对深度合成技术的认知尤为重要，只有将门槛降低到所有受众能够在共同的框架下去认识、讨论、理解这个问题的时候，深度合成技术才能健康良性发展。
《报告》建议，各方应当与时俱进落实好新的规范要求，并在此前提下不断追求技术突破，不断开拓深度合成技术应用场景，创立示范标杆，形成对人工智能行业整体的带动效应，从而促进新技术的持续健康发展。
营业执照公示信息