3月22日，南都记者在短视频平台以“靳东”“靳·东”“小东”“东哥哥”“贺函”等昵称进行检索发现，已无法查找到上述“靳东”系列账号。但在一个自称为“总导演”、昵称末尾为“东哥”的账号主页上，仍有许多配以文字和音乐的演员靳东影视片段剪辑视频，评论区里仍有不少用户以“姐弟”相称、留言祝福。

　　科普

　　深度伪造

“深度伪造”(Deepfake)是英文deep learning（深度学习）和fake（伪造）的混合词，即利用深度学习算法，实现音视频的模拟和伪造。尽管存在一些正向应用，但深度伪造技术也暗藏着财产侵害、人身侵害、危害公共安全甚至国家安全的风险。

　　规范

　　有关部门已制定出台多项法律法规强化规制

“深度伪造”技术暗藏风险的背后，这一新技术该如何监管？南都记者梳理发现，近年来，国家有关部门已制定出台多项法律法规，进一步强化对此类技术应用的规制。

例如，2019年11月，国家网信办等部门联合印发《网络音视频信息服务管理规定》，要求利用新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识；网络音视频信息服务提供者发现使用者利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的，应当及时采取相应的辟谣措施。

2019年12月，国家网信办印发《网络信息内容生态治理规定》，明确网络信息内容服务使用者和网络信息内容生产者、网络信息内容服务平台不得利用深度学习、虚拟现实等新技术新应用从事法律、行政法规禁止的活动。

2021年1月起正式实施的民法典中，第1019条明确规定了肖像权的消极权能，其中“不得利用信息技术手段伪造等方式侵害他人的肖像权”“未经肖像权人同意，不得制作、使用、公开肖像权人的肖像”的规定，被视为将AI换脸纳入到肖像权的保护范围。

　　建议

　　专家：应实现有效的社会共治

吴沈括告诉南都记者，从目前的生态来看，深度伪造技术泛滥的其中一个重要原因，是它能够被低成本低门槛地获取和运用，由此可能导致不法分子广泛获得这种技术的运用能力。

在风险防范方面，他建议，最重要的是要实现有效的社会共治。“其中非常重要的一环是企业在上线类似技术模块之前，及时有效的实现自我评估，通报国家有关监管机关，实现风险防治领域的公私合作。在这一点上，《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》具有重要的指引意义和实践操作价值。”

刘硕也认为，防范“深度伪造”技术的滥用需要进行“群防群治”。政府主管部门已给出了明确的指引，除按照政策法规执行外，还可以通过举办大赛等手段鼓励鉴伪技术研发，不断推动成熟的鉴伪技术商业化部署。积极发挥行业组织作用，推动形成行业共识、自律公约等。

刘硕表示，从此次约谈可以看到，我国主管部门加强对新技术风险治理的态度是坚决的；号召科技企业在发展新技术和新业务的同时，也要积极防范风险；此外，也希望大众在追求新奇的同时，不断提高隐私、安全保护意识。

出品：

南都新业态法治研究中心

采写：

南都记者

吴佳灵

实习生

曾玥