尽管由于人脸合成技术对普通人的可用性低，世界上使用深度合成技术进行欺诈的轰动一时的案件并不是那么多，但人们对它的认识不足为犯罪计划创造了广泛的空间。

深度合成技术即“AI换脸”

你现在还可以相信自己的眼睛吗？根据全球最大的身份验证系统制造公司iProov的资料显示，全球约70%的人不了解什么是深度合成技术，几乎半数人无法在视频中辨认出这一技术。似乎无害的变脸技术今天已变成了完全的“犯罪利器”。而世界各国的当局都在绞尽脑汁试图将新技术纳入法律的框架下，而我们国家是最早整顿该项技术使用秩序的国家之一。针对深度合成服务提供商的新规则将从1月10日起生效。中华人民共和国国家互联网信息办公室 (CAC)发布规定，禁止在未经主体许可或在损害国家利益的情况下制作深度合成。

深度合成危险在何处？

近年来，媒体、视频博主、电影制作人和应用程序的开发人员一直在内容创作中积极使用所谓的“深度合成”技术。2018年——天猫科技借助深度合成技术帮助达人影视公司从电视剧《巴清传奇》（又名《赢天下》中移除两个中心人物，并在不重新拍摄场景的情况下用其他人代替。2019年——中国陌陌公司创建了ZAO应用程序，让所有人都可以在他们喜欢的任何电影中尝试主角的角色。

2021年，美国演员布鲁斯·威利斯的深度合成副本出现在俄罗斯电信运营商的广告中。

按照清华大学人工智能研究院2022年的报告，2017年至2021年，哔哩哔哩、YouTube平台、抖音和TikTok上的深度合成视频数量增加了10倍。基本使用的是与电影和音乐相关的视听内容，例如，将当代演员插入上个世纪的电影中。第二个最受欢迎的视频内容是从科学角度展示技术，以及关于深度合成可能性的教育视频。

尽管由于技术对普通人的可用性低，世界上使用深度合成技术进行欺诈而轰动一时的案件并不是那么多，但人们对它的认识不足为犯罪计划创造了广泛的空间。据iProov称，2022年全球只有29%的人确切知道什么是深度合成技术。其中，43%的人承认他们不太可能在视频中识别出这一技术，62%的人认为这项技术很危险。

根据美国网络安全咨询公司Recorded Future的报告，深度合成技术现在已经成熟为一个完整的犯罪市场。该报告指出了各种非法使用深度合成技术的案例。在2019年4月，一家不出名的英国石油公司的员工收到一条消息，以其首席执行官的声音录制而成，请求把24.3万美元转账到一个匈牙利账户中。在“暗网”中，你已经可以找到广告，黑客仅仅为了1.6万美元就能创建任何内容的高质量深度合成。Recorded Future公司指出，高达90%的非法深度合成内容是色情内容——2019年全球已有超过10万名女性成为深度合成的受害者（别说你没看过）。

中国的案例

2018年，上海发生了最令国人震惊的深度合成技术骗局。罪犯想出了一个创建空壳公司的计划，用于随后的资金盗窃。但这项天才计划最大的障碍是中国金融服务业引进的的深入生物识别系统。

为了欺骗系统，骗子们在黑市上购买了人物照片及其个人数据。据《新华每日电讯报》报道，这些数据的购买价格为30-250元人民币（约合5-40美元）。然后骗子们在深度合成程序中处理了各种人的照片。因此，当银行应用程序要求打开前置摄像头以确认生物特征时，他们看起来就像完全不同的人。

这项计划让两名男子以他人的名义设立空壳公司，并向他们的客户开具假税务发票。他们在两年内成功窃取了约5亿元人民币（按2018年的汇率计算约为7620万美元）。

所以咱们国家当局决定不等案例增加，提前考虑如何在虚假信息鼎盛时期把存在潜在危险的技术纳入法律框架。

2019年起草了《(网络信息内容生态治理规定》和《网络音视频信息服务管理规定》。2020年，中国禁止将深度学习和虚拟现实技术用于开展任何非法活动。一年后，《个人信息保护法》和《数据安全法》相继出台。

北京大成律师事务所高级合伙律师邓志松律师表示，过去几年形成的新规则是对这种情况自然而及时的反应。一种新的和危险的技术迅速发展，掌握在犯罪者的技术手中。他说，这项技术本身在中国并不被认为是坏事，相反，通过监管，它的发展得到了支持，朝着正确的方向发展。

“利用深度合成技术实施欺诈、勒索犯罪的消息屡见报端，借助其生成的以假乱真的音视频作品对他人名誉、肖像、隐私等人身权利造成了不可忽视的威胁，利用该技术制造传播虚假消息扰乱社会稳定、危害国家安全的风险也与日俱增”。

中国的监管

中华人民共和国国家互联网信息办

公室的新规定涵盖了使用人工智能算法合成文本、图像、音频或视频的技术。这项新规定要求，提供此类服务的平台要求用户实名登录。而这些公司本身，他们的应用程序，首先获得了用户许可，可以在算法中使用他们的生物识别技术，并详细说明该技术的工作原理。

“本规定的出台则是针对深度合成技术更为专项、系统的规定。可以认为，在深度合成技术蓬勃发展甚至‘野蛮生长’的背景下，新规的出台，既是对深度合成技术所带来的风险挑战的有力回应，也是为其健康可持续发展保驾护航，同时也呼应了中国对个人信息、数据安全与网络安全愈发重视的现状。”

根据将于明年1月10日生效的新规定，深度合成技术服务提供商和用户不得利用这项技术传播违反公共秩序的信息，进行威胁国家安全、中国形象或破坏中国经济的活动。使用深度合成技术创建的内容必须标记为“深度合成”——“借助深度合成技术生成”。试图从此类视频中删除或模糊标签也是非法的。

如果深度合成供应商发现不合法、不准确的信息，他应该采取行动打击并联系相关部门。此类服务的提供商还需要针对非法使用其技术提供用户友好且易于理解的投诉系统。例如，在创建ZAO 的陌陌公司的官方网站上，有一条全天候运行的特殊热线。

现在是一个单独的监管部门来监管使用深度合成技术故意，而传播虚假信息还要承担刑事责任。此外，还要求深度合成技术服务提供商必须进行严格的信息安全监督，以防止数据泄露或恶意使用其产品。

其他国家对这项技术的态度

制定立法来定义深度合成技术的使用边界是一种全球惯例，然而，这还没有达到立法的成熟时期。 美国当局认为深度合成是对国家安全的威胁，所以目前只在地方层面上实施相关法律。2019年10月，加利福尼亚州通过了美国第一部深度合成法律。其中之一裁定出于政治目的发布任何视频都是非法的，例如改变面孔或演讲以诋毁公职人员。第二项法律允许该州居民起诉任何使用深度合成技术制作成人视频的人。在俄罗斯，在数字欺诈案件增加的背景下，有人提议必须对深度合成作标记——相应的函件已于11月底提交给俄罗斯联邦数字发展、通信和大众传媒部 。

目前有一点很清楚。深度合成技术还将在未来数年内处于“灰色地带”，各国将实施严厉程度不等的监管措施。在某些地方，由于法律过于严厉，导致可能有突破性技术的IT公司会被打压；而在另一些地方，由于过度放松，受苦的首当其冲是普通人。在这里很难找到中间立场。毕竟，任何技术都可能以某种方式被滥用。