钱江晚报 记者 汪佳佳 “ZAO”,你“造”(知道)吗? 很多人是一夜之间知道这个APP的。因为从8月30日晚上开始,朋友圈被这款名为“ZAO”的AI换脸游戏刷屏了。 我看到“各种各样”的韩商言、甄嬛、小燕子……相关热搜,也在微博里一路走高。昨天,甚至迅速有同类型的APP模仿秀跟着推出。 记者也体验了一番,输入手机号码下载APP,上传正面照片,就可以生成,操作很简单,视频做得也蛮有意思的。 但随即也有人提出质疑:这些视频有版权问题吗?我的面部信息,会因此外泄吗?更有人担心,这样是不是以后连视频新闻都可以造假了? 记者带着这些问题采访了相关专家。 一张照片就可视频换脸 满屏都是韩商言和小燕子 在苹果商店里,ZAO的简介是:仅需一张照片,出演天下好戏。 截至8月31日中午12点,ZAO已经跃居苹果商店的免费APP下载榜第二位。据ZAO官方微博介绍,8月11日放出3000个内测名额,就把服务器压坏了。8月花了700万租的服务器,昨晚已经消耗了1/3。可见其火爆程度。 记者昨天下载APP完成注册后,系统要求提供一张图片——照片不清晰或者非正脸的,都被系统否决的。 照片通过后,APP还会要求肖像验证,就和苹果手机的面部识别认证一样:记者在摄像头前进行眨眼、扭头、张嘴、低头等指示动作,系统判断是本人之后,才能进入下一步操作。 记者选择了“甄嬛”这个角色,等了大概30秒,就拿到了甄嬛与华妃“从天黑等到天亮”的经典桥段。记者的脸嵌在视频画面里,算是非常自然了。 用户也可以通过软件制作GIF动画表情,而且选过一次照片之后,后面制作视频时不用再选,可一键换脸,让你的五官和明星完美融合,让你和偶像或者同台飙戏,或者分分钟穿越进各种影视剧的名场面。 朋友圈由此出现了一大波韩商言、小燕子、谢耳朵、杨超越…… 可能被滥用、恶意编辑 甚至用于色情业 记者给一位朋友分享了ZAO制作后的视频,她的第一反应是——“好恐怖啊”。 “照片可以P,现在连视频都不能相信了吗?”这位在读理工科研究生的朋友说。 事实上,这样的质疑声昨天还有很多。 首先是版权问题。 根据APP的版权声明,ZAO产品上存在的短视频和表情等素材,除了特别声明是版权合作的之外,均来源于用户自发的上传。这就意味着,平台上的很多影视片段,并没有版权授权,用户使用并且传播后,不可避免会带来一些法律问题。 同时,还有肖像被盗用、滥用以及侵犯等问题。 众所周知,AI换脸技术已经被用到了色情业中,甚至形成了完整的产业链,从下游成品视频、中游定制视频到上游软件及教程都有。 更多人担心的是,面部识别功能已经深入到生活的方方面面,比如,很多账户都是直接绑定面部信息的,“如果APP把我的脸外泄了,被人盗刷怎么办?” 这样的安全隐患,真实存在吗? 昨天,记者联系了浙江大学人工智能研究所所长吴飞。 吴飞首先举了一个例子。曾有实验人员将一张熊猫图片交给机器识别,机器以55.7%的置信度认为这是熊猫。但是,一旦对这张图片加入一些人眼无法察觉的随机噪音后,机器竟然以99.3%的置信度认为这张图片是长臂猿图片。 吴飞举的这个例子,是想说明人工智能算法在识别方面存在安全隐患。 对于ZAO这样的APP,他认为,大家担心的风险,是有可能存在的。“如果用户面部信息被别有用心的人获取后,再对这些信息进行编辑,就有可能用修改后的图像注册电子ID,造成不利影响。比如,在一个视频场景中,通过换脸技术,在语音驱动下,让‘你’说出一些与场景吻合的话,但这并不是你说的,如果只是娱乐一下,倒也无所谓,但如果被用到金融乃至政治中,那就有可能产生不可估量的影响。” 但对于更多人担心的“被人刷脸登录支付宝”这样的问题,吴飞则表示,这个可能性并不大。 “像支付宝一类的金融APP,它的安全性是非常高的,光有图片信息还不够,它还会要求你做一些动作,会要求扫描对象必须是一个三维的活物才可以顺利登录、支付等。但是对一些安全性并不高的APP,比如有些学校的校园通,它要求父母刷脸才能接走孩子,要求并不严格,就有可能会出现一些隐患。” “一旦数据被编辑,那么它就不再是原始真实的数据,就有可能产生眼见并不为实的情况。而对于这样的情况,普通老百姓是无法辨别的,还是要从技术层面进行防范,通过多种渠道进行验证,才能防范面部信息被别有用心的人盗用,产生危害。”吴飞说。 背后新闻 陌陌核心团队打造 最后,记者去查了这款一夜爆红的APP的来源。 ZAO由长沙深度融合网络科技有限公司开发,天眼查资料显示,该公司在2019年7月19日完成股东变更,由北京陌陌科技有限公司变更为海南喵咖网络科技有限公司,100%控股。 ZAO的执行董事雷小亮,监事王力,很多财经圈的人都很熟悉,雷小亮是陌陌联合创始人、游戏业务负责人,王力则是陌陌联合创始人、总裁兼COO。 截至昨天北京时间9时,陌陌股价已经三连涨,最新报价36.78美元。 同时,24小时里又有好几款AI换脸APP问世,在朋友圈发酵速度之快令人咋舌,也侧面反映出这一技术的复制难度并不大。 2017年,国外某ID名为“deepfakes”的用户,发布了自己制作的AI换脸视频。后来,由于收到大量受害者的投诉,Reddit论坛封杀了“deepfakes”的账号,但这次封杀却让“deepfakes”直接开源了AI换脸项目的代码。 代码开源后,AI换脸技术无可阻挡地蔓延到世界各地。人们用它的ID命名了AI换脸技术,称之为“deepfakes”。 今年年初,B站UP主“换脸哥”就发布过一段94版射雕英雄传视频。视频中,将朱茵的脸换成了杨幂,完美切换,几乎没有违和感。 |