“深度合成”新规，“元宇宙”关键技术迎来监管

本文来自微信公众号：Internet Law Review（ID：Internet-law-review），作者：肖飒（大成律师事务所合伙人）法律团队，原文标题：《元宇宙关键技术将迎来首部针对性规制，企业合规点详解》，头图来自：视觉中国

毋庸置疑的是，人工智能（AI）、大数据、区块链等技术在短短十几年内已经深刻的改变了我们的生活方式，在这个日益虚实交融的世界里，新的事物在不断被创造，并渐渐与旧世代的事物形成更加庞大而复杂的关系网。

深度合成（Deep Synthesis，以前曾被称为Deepfake，即“深度伪造”）作为AI技术的新应用、新实践，近年来备受关注。

一方面，利用深度合成技术可以自动生成文本、语音、图像、视频等各种数字内容，已经成为了当前元宇宙发展的关键技术；另一方面，近年来科技迅猛发展，深度合成技术门槛快速降低，导致滥用技术的案例频出，引发各类风险。

因此，当前亟待以立法的形式对深度合成技术的应用进行规制，尤其是要对深度合成内容的用途、标记、使用范围以及滥用技术的处罚作出具体规定，同时明确责任主体，才能真正实现“技术向善”。

2022年1月28日，国家网信办最新公布了《互联网信息服务深度合成管理规定（征求意见稿）》（简称《深度合成征求意见稿》），对作为元宇宙基石的深度合成技术做出了一系列较为明确的规定和指引。本文对此文件进行解读，以帮助读者明晰：深度合成技术怎么用才合规。

一、深度合成技术及其在元宇宙中的实际应用

从技术上来说，“深度合成”技术，实质上就是利用深度学习算法来实现的，其主要使用的两个技术：自动编码器和生成对抗网络（GAN）。

一个用来进行新数据的生成，一个用来对生成数据进行鉴别，经过二者无数次“合作”，最终生成出极具“真实感”的合成数据。当前大家耳熟能详的AI换脸就是利用深度合成所创造的。

而根据《深度合成征求意见稿》第二条，深度合成技术指的是：

利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术，包括但不限于：

（1）篇章生成、文本风格转换、问答对话等对文本内容进行生成或者编辑的技术；

（2）文本转语音、语音转换、语音属性编辑等对语音内容进行生成或者编辑的技术；

（3）音乐生成、场景声编辑等对非语音内容进行生成或者编辑的技术；

（4）人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等对图像、视频内容中人脸等生物特征进行生成或者编辑的技术；

（5）图像增强、图像修复等对图像、视频内容中非生物特征进行编辑的技术；

（6）三维重建等对虚拟场景进行生成或者编辑的技术。

按照该定义，AI语音，NFT生成艺术、虚拟演唱会、全息人像投影、虚拟人数字人、AR购物等元宇宙的重要组成部分都属于深度合成技术的具体应用。而只要在中华人民共和国境内应用深度合成技术提供互联网信息服务，或为深度合成服务提供技术支持的活动，均在《深度合成征求意见稿》的规制范围内。

随着“深度合成”技术逐渐成熟并进入商业化应用阶段，其巨大的经济价值已经逐渐向世人展露。当前，“深度合成”已经在音乐、影视、综合娱乐、社交等多个行业的场景中被实际推广应用。

例如，在电影大片的制作中其应用最为成熟，不仅可以通过提升音视频制作的效率和质量，显著降低影片制作成本，还能赋予艺术创作者更大的想象空间。甚至深度合成技术还可以使一些已过世的演员进行在影视剧中以虚拟数字人的形态“复活”。

在综合娱乐方面深度合成同样表现不俗，某互联网大厂常用的脸部特效、换脸短视频等已经在我们的生活中屡见不鲜。虚拟偶像、虚拟主播、甚至已经有能力为消费者提供娱乐、购物、向导等服务。另外，在教育、艺术、医疗和科研等领域，深度合成技术都可以为这些产业带来新的应用。

二、深度合成技术存在的风险

自从2017年Deepfake（深度伪造）出现后，AI技术在造假方面的潜力为世人所惊叹。此后，GAN算法的突飞猛进不仅仅可以做到AI换脸，甚至能自动生成文本、人工语音、图像等各种数字内容。

深度合成技术在为我们的生活提供便利的同时，也带来了一系列的风险。例如AI换脸制作的大量色情视频正在网络上泛滥成灾，不仅严重侵犯了他人的肖像权、隐私权和名誉权、个人信息安全等个人私益，对社会公共秩序和善良风俗也造成了严重的侵害。甚至有不法分子利用AI换脸、合成声音等技术实施诈骗等犯罪活动。

2021年，山东省公安厅网络安全总队就公布了几个利用深度合成技术实施诈骗的真实案例。

2020年12月，某公司财务接到领导电话要求立刻给供应商转款两万元，并将转账信息以邮件形式发送到对方邮箱，理由是避免缴纳滞纳金。由于电话中老板的口音十分逼真，公司财务毫无怀疑地在一小时内完成了转账。

更有甚者，在山东网安总队公开的第二个案例中，犯罪分子利用了社交媒体视频进行诈骗。

其首先通过盗用了他人社交媒体账号，获取他人面部信息，通过与账号原所有人亲属进行视频电话的形式要求亲友向其指定账号转账，成功地取得了受害人的信任，骗取了大量钱财。

利用深度合成技术实施违法犯罪活动是其风险的表象，而深度合成技术真正危险的是其对社会信任关系的严重破坏。信任关系的存在，对于任何个体、社群来说都是无比重要的，甚至有学者认为，信任是自古以来人类社会存在的基础之一，关于人与人之间的信任关系的重要性，无论做出多高评价都不为过。

张康之老师认为，在人类历史的农业社会阶段中，人们之间的信任关系以传统习俗的形式表达，而近代工业社会中所存在的人们之间的信任关系，则属于契约型的信任关系。虽然社会信任的形式会随时代变迁而改变，但无论如何，社会的维系必须建立在社会信任的基础上。

深度合成技术拥有破坏社会信任的潜力，俗话说，眼见为实，但当眼见、耳闻都不再是真实，谎言和欺骗甚嚣尘上时，社会信任将会荡然无存。

康德在《实践理性批判》中就曾论证了“无信任社会”的可怕。按照康德的理论，假如谎言是社会的通行法则，那么人人可以说谎。在这种情况等下，作为一个拥有正常理智的人，我们不会再去相信说谎的人，也就不会再相信这世界上的每一个人。不被相信的谎言也就不再有意义，这就形成了一个悖论。

康德也正是据此反推“不说谎”和社会信任才是社会存在和发展的正常形态，因为只有在社会信任中，说谎者才能以谎言获利。

如今，信息网络已经深入到我们生活的各个角落，毫无节制地滥用深度合成技术，会给我们带来的必然是一个价值混乱、信任丧失并分崩离析的社会。因此，以法律的形式对其进行合理规制具有紧迫性和必要性。

三、深度合成技术合规要点

《深度合成征求意见稿》作为我国第一个专门规制深度合成技术的法规，对元宇宙企业等科技公司的合规发展有着至关重要的作用。

（一）责任主体及具体要求

根据《深度合成征求意见稿》第二条，深度合成技术责任主体有两类：

（1）在中华人民共和国境内应用深度合成技术提供互联网信息服务的主体；

（2）为深度合成服务提供技术支持的主体。

对于这两类主体，根据《深度合成征求意见稿》第七条规定，其需要：

落实信息安全主体责任，建立健全算法机制机理审核、用户注册、信息内容管理、数据安全和个人信息保护、未成年人保护、从业人员教育培训等管理制度，具有与新技术新应用发展相适应的安全可控的技术保障措施。

另外，《深度合成征求意见稿》第十六条特别规定了互联网应用商店服务提供者的责任：

应当对深度合成服务提供者提供的深度合成应用程序履行安全管理责任，依法依约核验深度合成应用程序的安全评估、备案等情况；对违反国家有关规定的，应当及时采取不予上架、暂停上架或者下架等处置措施。

（二）程序合规

1.备案

根据《深度合成征求意见稿》第十九条，深度合成服务提供者应当按照《互联网信息服务算法推荐管理规定》（以下简称《算法规定》）的有关规定，

在提供服务之日起十个工作日内履行备案手续。完成备案的深度合成服务提供者应当在其对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供公示信息链接。

2. 安全评估

根据《深度合成征求意见稿》第十一条和第二十条，随应用深度合成技术的情况不同，需进行不同种类的安全评估：（1）自行进行安全评估；（2）按国家有关规定进行安全评估。

对于提供具有对人脸、人声等生物识别信息或者可能涉及国家安全、社会公共利益的特殊物体、场景等非生物识别信息编辑功能的模型、模板等工具的，应当自行开展安全评估。而对于深度合成服务提供者开发上线具有舆论属性或者社会动员能力的新产品、新应用、新功能的，则需按国家有关规定进行安全评估。

（三）实体要求

《深度合成征求意见稿》第八条到第十四条集中规定了深度合成技术责任主体的要求，主要包括：信息安全、真实身份信息认证、技术审核评估、数据安全保障、内容管理、内容可识别和可追溯、内容标识几个方面。

其中需要特别注意的是内容标识部分，根据《深度合成征求意见稿》第十四条：

深度合成服务提供者提供深度合成服务的，应当使用显著方式对深度合成信息内容进行标识，向社会公众有效提示信息内容的合成情况。

对于违反《深度合成征求意见稿》的行为，在承担行政责任方面将面临警告、责令限期改正、暂停相关业务、暂停信息更新，并处一万元以上十万元以下罚款的后果。而在民事方面，由于违反相关规定而给他人造成损害的，应依法承担民事责任。在刑事方面，对于构成犯罪的行为，依法追究刑事责任。

四、写在最后

深度合成技术是一个再典型不过的科技“双刃剑”，只有为其划定适当的使用框架，才能真正意义上科技兴国、造福全民。

当然，没有任何一个技术是在人类做好万全准备后才出现，深度合成、大数据、区块链技术都是如此。在我们即将全面迎来数字化世界的今天，既不能因噎废食，以过于严格的立法限制深度合成的发展，也不能对其过于宽松放任自流。如何更加恰当、合理地立法，是我们全体法律人对时代承担的责任。

本文来自微信公众号：Internet Law Review（ID：Internet-law-review），作者：肖飒（大成律师事务所合伙人）法律团队