中国AI换脸骗术世界领先 政府监管失灵了吗？

对人工智能的使用进行监管是世界范围的政策难题，中国在这一领域出台法规的速度和数量世界一流。然而，使用AI深度伪造技术“换脸”、“换声”的诈骗在中国层出不穷。分析认为，在深伪媒体剧增的挑战面前，中国的法规的监管重点仍在政治维稳，无力解决欺诈等民生安全问题。

不再是尖端技术 AI深伪全球普及

通过人工智能深度伪造（deepfake）技术进行诈骗的新闻最近在中国层出不穷。据中国媒体报道，今年4月，福州一家科技公司的老板成为AI“换脸”骗局的受害者，险些被骗430万元人民币。

这起AI骗局可能是中国近期与深度伪造应用相关的诈骗数额最大的一起。行骗者显然盗用了受害者好友的微信帐号，再通过AI深伪技术以好友的形象和声音与其视频通话，通过身份验证后，诱导其进行银行转账。报道说，福州和包头两地的警方和银行，拦截了336.84万元，仍有被转移的93.16万元还在追缴中。

人工智能技术快速发展下，短短几年，深伪“换脸”应用已经从一个前沿技术演化到一个大众娱乐工具。2019年，一段有关美国前总统“奥巴马”讲话的伪造视频曾经一度引发热议，甚至引起美国国家安全部门的警觉。不到两年，换脸软件就成为普通网民可以随意下载和使用的消遣程序。在中国，“Zao”、“Avatarify”等AI换脸软件相继火爆全网，有的甚至冲上应用程序商店的下载冠军。但程序发行商不久都被当局约谈、程序下架，原因可能与隐私和肖像权有关。

总部设在德国柏林、从事反诈骗和身份验证安全业务的网络技术公司SumSub人工智能和机器学习事务主管帕维尔·哥尔德曼—卡拉丁（Pavel Goldman-Kalaydin）说，想录制一段视频，让另一个人的声音和形象说出自己想要说的话，现在只要一台个人电脑或一部智能手机就能办到，利用网上可以获取的“虚拟摄像头”，不需要任何复杂的硬件。

他对美国之音说：“问题就是，这项技术变得越来越普及。很多人都可以使用。很多人都在自己的笔记本电脑上操作。”

他说：“他们可以制造许多深度伪造内容，试图绕过我们希望执行的（认证）检查。”

换声换脸无缝对接 中国AI骗术一流

深度伪造诈骗正在世界各地发生，但专家表示，中国的深伪视频诈骗似乎技高一筹。

根据SumSub公司五月发布的统计，2023年第一季度与去年同期相比，深度伪造诈骗占全部诈骗数量的比例在美国从0.2%上升到2.6%，在加拿大从0.1%上升到4.6%。在英国、德国、意大利等欧洲国家，“深伪”诈骗在全部诈骗所占比例都超过了5%。