都市快报 首席记者 梁应杰 记者 万禺 还记得不久前在欧美再次走红的AI视频换脸吗？一款名为Deepfake的工具，能够利用人工智能算法，将一个人的脸合成到另一个人的视频中，当用来训练的数据足够多，相关计算能力足够强大时，人们很难直接辨别视频的真伪。 昨天一天，朋友圈出现了大量被“换脸”的短视频。网友们纷纷将自己的脸换到黄晓明、肖战、沈腾等明星身上，成了《中餐厅》《陈情令》《羞羞的铁拳》等热门节目和影视剧里的一员。 AI视频换脸这股风彻底刮到了国内，也带来了一系列关于版权、隐私权、安全等问题的拷问。此前这项技术就已经被不法分子利用，成为滋生色情黑产的温床。 相关报道：频繁将照片传到网上 你的账户还安全吗？换脸App走红背后涉嫌过度攫取用户隐私权 上传照片完成脸部的“移花接木” 这些视频是通过一款名为ZAO的软件制作完成。用户下载完软件后，选择自己心仪的视频，找到想要替换的那个角色，按照要求上传或自拍清晰度较高、光线较好的照片之后，再通过后台制作，就能完成“换脸”的全过程，顺利的时候只要5-10秒，十分方便。 昨天一天，我的朋友圈不断有人上传自己的换脸视频。目前，ZAO上有数百个可以用来换脸的片段，涉及众多热门IP。如果你愿意，可以把自己变成《西游记》里的唐僧，《长安十二时辰》里的李必。除了造视频外，ZAO还能够制作表情包，带有社交分享功能。 从合成效果看，ZAO确实比之前主打类似功能的软件要好。特别是正脸的状态下，一些视频足以“以假乱真”，但在侧脸以及角色远距离识别上还有所欠缺。 另外，目前这款App不支持用明星换脸。比如，我试图上传好莱坞影星“小李子”的照片进行合成，系统会提醒检测到公众人物，除非自拍进行肖像验证，否则不能直接合成。这一定程度上保护了明星的肖像权。 从苹果商店的资料来看，ZAO的研发方是长沙深度融合网络科技有限公司。天眼查资料显示，这家公司的法定代表人是雷小亮，监事是王力。两人的另外身份分别是陌陌公司联合创始人兼游戏业务部总裁，以及陌陌公司董事、总裁及COO。因此，这款软件很有可能和社交平台陌陌有关系。 昨天，也有媒体表示，这个项目由陌陌CEO唐岩主导，2019年春节后立项，已经推出过几个版本，没想到在这个时间点爆发。因为大量新用户的拥入，从前天凌晨开始，ZAO的服务器就处于半瘫痪状态，体验也没有一开始那么顺畅。 算法2017年就有 杭州也有团队摸索了小半年 对国内网民来说，AI换脸这种形式并不新鲜。今年年初，B站UP主“换脸哥”发布的一段94版射雕英雄传视频。把原本饰演黄蓉的朱茵的脸换成了杨幂。从流出的视频和动图来看，虽然是用AI合成，整体效果十分逼真。 “换脸哥”用的技术就是来自于美国的Deepfake。虽然ZAO到目前为止还没有介绍自身技术，但很大可能也和Deepfake有关。 早在2017年，一位名叫Deepfake的用户上传了一种新的色情视频，将色情明星的面孔换成名人面孔，一下子引起了轩然大波。后来网友为了纪念这项技术，直接将其命名为Deepfake。2018年，Deepfake的算法在GitHub上发布，成了完全开源的项目，任何拥有足够专业知识和足够配置计算机的人都可以制作类似的虚假视频。 杭州手滑科技的技术团队最早接触Deepfake是在去年年底，当时内部还讨论过这一技术商业化的能力。今年4月，他们正式将AI视频换脸立项，起因是横店影视城希望赋予传统穿龙袍拍照的旅游项目更多科技感。 “实际上，从去年开始国内很多团队都在基于Deepfake做开发和商业化，只不过都没有ZAO效果那么好。”手滑科技的技术主管表示，现在自己产品的换脸效果也无法达到ZAO的水平，“ZAO背后的技术很有可能也和Deepfake有关，因为有大资金支持，成长非常快。” 在原理上，Deepfake使用的是最知名的深度学习算法之一GANs。GANs全称为生成式对抗网络，由今年34岁的Ian Goodfellow在2014年发明。今年3月份，被称为“GANs之父”的Ian Goodfellow从谷歌跳槽到苹果。 简单来说，Deepfake技术依靠两个人工智能相互“打架”完成。一个造假，一个鉴别，然后反复在细节上“去伪存真”，直到负责鉴别的那个人工智能无法辨别造假视频。除了视频，GANs的算法还能用到声音、图像等多个领域。 AI换脸滋生黑产 美国正在加强对AI被滥用的监管 对于Deepfake，杭州某大学的一名大四男生奇哥并不陌生。去年年末，他在一个交换技能的微信群里，就收到过群友发的AI换脸不雅视频，一如当年Deepfake在欧美的走红。 “发的人说里面女主角是当红女明星，当时特别好奇，就点进去看了。”奇哥表示，视频时间很短，只有30秒，“内容有点露骨，但是能清晰地看到那个女明星的脸，如果不是后面知道了Deepfake，还以为是真的。” 在网上，Deepfake迅速被一些不法分子利用，形成了制作、销售不雅视频的产业链。也就是在一个月前，我曾在一个二手交易平台发现，有人在售卖Deepfake的教程，详细到该用什么配置的电脑进行操作，还提供云服务器的租赁服务，减轻电脑压力。一位卖方告诉我：“能将你想要的脸换到你想要看的任何视频上。没什么门槛，大家都可以玩。” 更有甚者，一些不法分子在私下销售完成换脸的不雅视频，比如花上100元就能打包200部视频，几乎囊括了国内一二线女明星。之后因为相关报道，一些平台下架了教程和视频，但在网上还是能够找到。 昨天，我在一个电商平台搜索AI换脸相关软件时，就发现有商家销售Deepfake相关教程，价格在5到10元不等，销量最高的一家店已显示有41人付款。在这家店的详情页上，商家用红底白字写了一个声明：由于软件功能强大，任何视频都可以换脸！严禁用于不正当目的！ 对于这项技术和不法分子的做法，好莱坞女明星斯嘉丽·约翰逊就表示：“什么也阻止不了这些人把我的图片复制粘贴到另一个人的身体上，并且让它看起来逼真得可怕。” 目前，针对Deepfake带来的负面影响，欧美等国家已经展开了行动。美国《通信规范法》第230条规定：“交互式计算机服务提供者或使用者，就非出于己的信息内容，不应被视为内容的出版人即发表人。”据国外媒体报道，这条规则可能因为Deepfake而改变。 另外，美国议员正在起草法案，涉及整个AI产业的监管，从上到下都必须参与其中。由于AI换脸已经影响到美国政坛，美国国防高级研究计划局为此设立了“媒体鉴证”项目，以开发能识别Deepfake的工具，项目最初旨在实现现有鉴证工具的自动化，后来将终点转向了人工智能生成的虚假视频上。 | 
