消费资讯
消费资讯
一款AI换脸APP刷屏朋友圈 会被人盗去刷脸吗?浙大人工智能专家这样说
 
2019-09-02 08:21:47   杭州网

钱江晚报 记者 汪佳佳

“ZAO”,你“造”(知道)吗?

很多人是一夜之间知道这个APP的。因为从8月30日晚上开始,朋友圈被这款名为“ZAO”的AI换脸游戏刷屏了。

我看到“各种各样”的韩商言、甄嬛、小燕子……相关热搜,也在微博里一路走高。昨天,甚至迅速有同类型的APP模仿秀跟着推出。

记者也体验了一番,输入手机号码下载APP,上传正面照片,就可以生成,操作很简单,视频做得也蛮有意思的。

但随即也有人提出质疑:这些视频有版权问题吗?我的面部信息,会因此外泄吗?更有人担心,这样是不是以后连视频新闻都可以造假了?

记者带着这些问题采访了相关专家。

一张照片就可视频换脸

满屏都是韩商言和小燕子

在苹果商店里,ZAO的简介是:仅需一张照片,出演天下好戏。

截至8月31日中午12点,ZAO已经跃居苹果商店的免费APP下载榜第二位。据ZAO官方微博介绍,8月11日放出3000个内测名额,就把服务器压坏了。8月花了700万租的服务器,昨晚已经消耗了1/3。可见其火爆程度。

记者昨天下载APP完成注册后,系统要求提供一张图片——照片不清晰或者非正脸的,都被系统否决的。

照片通过后,APP还会要求肖像验证,就和苹果手机的面部识别认证一样:记者在摄像头前进行眨眼、扭头、张嘴、低头等指示动作,系统判断是本人之后,才能进入下一步操作。

记者选择了“甄嬛”这个角色,等了大概30秒,就拿到了甄嬛与华妃“从天黑等到天亮”的经典桥段。记者的脸嵌在视频画面里,算是非常自然了。

用户也可以通过软件制作GIF动画表情,而且选过一次照片之后,后面制作视频时不用再选,可一键换脸,让你的五官和明星完美融合,让你和偶像或者同台飙戏,或者分分钟穿越进各种影视剧的名场面。

朋友圈由此出现了一大波韩商言、小燕子、谢耳朵、杨超越……

可能被滥用、恶意编辑

甚至用于色情业

记者给一位朋友分享了ZAO制作后的视频,她的第一反应是——“好恐怖啊”。

“照片可以P,现在连视频都不能相信了吗?”这位在读理工科研究生的朋友说。

事实上,这样的质疑声昨天还有很多。

首先是版权问题。

根据APP的版权声明,ZAO产品上存在的短视频和表情等素材,除了特别声明是版权合作的之外,均来源于用户自发的上传。这就意味着,平台上的很多影视片段,并没有版权授权,用户使用并且传播后,不可避免会带来一些法律问题。

同时,还有肖像被盗用、滥用以及侵犯等问题。

众所周知,AI换脸技术已经被用到了色情业中,甚至形成了完整的产业链,从下游成品视频、中游定制视频到上游软件及教程都有。

更多人担心的是,面部识别功能已经深入到生活的方方面面,比如,很多账户都是直接绑定面部信息的,“如果APP把我的脸外泄了,被人盗刷怎么办?”

这样的安全隐患,真实存在吗?

昨天,记者联系了浙江大学人工智能研究所所长吴飞。

吴飞首先举了一个例子。曾有实验人员将一张熊猫图片交给机器识别,机器以55.7%的置信度认为这是熊猫。但是,一旦对这张图片加入一些人眼无法察觉的随机噪音后,机器竟然以99.3%的置信度认为这张图片是长臂猿图片。

吴飞举的这个例子,是想说明人工智能算法在识别方面存在安全隐患。

对于ZAO这样的APP,他认为,大家担心的风险,是有可能存在的。“如果用户面部信息被别有用心的人获取后,再对这些信息进行编辑,就有可能用修改后的图像注册电子ID,造成不利影响。比如,在一个视频场景中,通过换脸技术,在语音驱动下,让‘你’说出一些与场景吻合的话,但这并不是你说的,如果只是娱乐一下,倒也无所谓,但如果被用到金融乃至政治中,那就有可能产生不可估量的影响。”

但对于更多人担心的“被人刷脸登录支付宝”这样的问题,吴飞则表示,这个可能性并不大。

“像支付宝一类的金融APP,它的安全性是非常高的,光有图片信息还不够,它还会要求你做一些动作,会要求扫描对象必须是一个三维的活物才可以顺利登录、支付等。但是对一些安全性并不高的APP,比如有些学校的校园通,它要求父母刷脸才能接走孩子,要求并不严格,就有可能会出现一些隐患。”

“一旦数据被编辑,那么它就不再是原始真实的数据,就有可能产生眼见并不为实的情况。而对于这样的情况,普通老百姓是无法辨别的,还是要从技术层面进行防范,通过多种渠道进行验证,才能防范面部信息被别有用心的人盗用,产生危害。”吴飞说。

背后新闻

陌陌核心团队打造

最后,记者去查了这款一夜爆红的APP的来源。

ZAO由长沙深度融合网络科技有限公司开发,天眼查资料显示,该公司在2019年7月19日完成股东变更,由北京陌陌科技有限公司变更为海南喵咖网络科技有限公司,100%控股。

ZAO的执行董事雷小亮,监事王力,很多财经圈的人都很熟悉,雷小亮是陌陌联合创始人、游戏业务负责人,王力则是陌陌联合创始人、总裁兼COO。

截至昨天北京时间9时,陌陌股价已经三连涨,最新报价36.78美元。

同时,24小时里又有好几款AI换脸APP问世,在朋友圈发酵速度之快令人咋舌,也侧面反映出这一技术的复制难度并不大。

2017年,国外某ID名为“deepfakes”的用户,发布了自己制作的AI换脸视频。后来,由于收到大量受害者的投诉,Reddit论坛封杀了“deepfakes”的账号,但这次封杀却让“deepfakes”直接开源了AI换脸项目的代码。

代码开源后,AI换脸技术无可阻挡地蔓延到世界各地。人们用它的ID命名了AI换脸技术,称之为“deepfakes”。

今年年初,B站UP主“换脸哥”就发布过一段94版射雕英雄传视频。视频中,将朱茵的脸换成了杨幂,完美切换,几乎没有违和感。

 
来源:钱江晚报    作者: 记者 汪佳佳    编辑:陈俊男    
分享到:
 
『相关阅读』
 

我也来说两句: 0条评论 查看评论
会员登录名 密码 [注册]
 
More>>  
·为网络黑灰产业“服务” 这个接码平台被...
·竞拍APP拍字画赚快钱?有人1天损失2...
·网购处方无须处方?无处方者可通过“在线...
·餐馆纸巾必点不可退?浙江一商户因此被罚...
·明年起国内航班停止提供一次性不可降解塑...
·房地产网上营销热:有房企近半成交在线上...
·从零食手办到机票宠物 盲盒风愈刮愈烈问...
·卫生纸迎“涨价潮” 上市纸企一季度利润...
·从一车难求到“低调离场”,公共自行车怎...
·培育壮大新型消费(市场漫步)
·集成灶安装不当消费者被炸伤 积极维权获...
·护航夏季食品安全
·夏日安心美妆 江苏南京专项整治化妆品质...
·湖北开展为期7个月的成品油专项整治
·江西开展专项检查规范食用油、蜂蜜市场秩...
·北京顺义开展电动自行车排查整治行动
·上海市消保委测试30款手持式挂烫机:美...
·江苏兴化开展“安全用妆,美丽有法—— ...
·火出圈的“文创雪糕”值得买吗?
·突围新消费 今夏“水战”再起
·4月银行理财收益迎低点 如何挑选合适的...
·一“熊”难求 跟风炒“熊”90后小心变...
·奶茶店玩起了袋泡茶 茶饮界开始流行喝“...
·童年味道火了怀旧零食 这个六一你会为情...
·新卤味登上家庭餐桌 千亿卤味市场还能怎...
·报名健康管理师培训但还未上课 500元...
·浙江将重点打击7大领域的18种违法行为...
·人民币升值 海淘比“618”还划算
·总量调控下,共享单车如何有机融入城市?...
·疫情之下,消费退费不能随便“打折”