AI换脸APP刷屏 会被盗刷脸吗?浙大人工智能专家这样说

2019-09-01 12:55:44 作者: 勇哥网 浏览: 77

t01b8d408c4d9ce81a9.jpg?size=571x410

“ZAO”,你“造”(知道)吗?

很多人是一夜之间知道这个APP的。因为从8月30日晚上开始,朋友圈被这款名为“ZAO”的AI换脸游戏刷屏了。

我看到“各种各样”的韩商言、甄嬛、小燕子……相关热搜,也在微博里一路走高。昨天,甚至迅速有同类型的APP模仿秀跟着推出。

记者也体验了一番,输入手机号码下载APP,上传正面照片,就可以生成,操作很简单,视频做得也蛮有意思的。

但随即也有人提出质疑:这些视频有版权问题吗?我的面部信息,会因此外泄吗?更有人担心,这样是不是以后连视频新闻都可以造假了?

记者带着这些问题采访了相关专家。

一张照片就可视频换脸

满屏都是韩商言和小燕子

在苹果商店里,ZAO的简介是:仅需一张照片,出演天下好戏。

截至8月31日中午12点,ZAO已经跃居苹果商店的免费APP下载榜第二位。据ZAO官方微博介绍,8月11日放出3000个内测名额,就把服务器压坏了。8月花了700万租的服务器,昨晚已经消耗了1/3。可见其火爆程度。

记者昨天下载APP完成注册后,系统要求提供一张图片——照片不清晰或者非正脸的,都被系统否决的。

照片通过后,APP还会要求肖像验证,就和苹果手机的面部识别认证一样:记者在摄像头前进行眨眼、扭头、张嘴、低头等指示动作,系统判断是本人之后,才能进入下一步操作。

记者选择了“甄嬛”这个角色,等了大概30秒,就拿到了甄嬛与华妃“从天黑等到天亮”的经典桥段。记者的脸嵌在视频画面里,算是非常自然了。

用户也可以通过软件制作GIF动画表情,而且选过一次照片之后,后面制作视频时不用再选,可一键换脸,让你的五官和明星完美融合,让你和偶像或者同台飙戏,或者分分钟穿越进各种影视剧的名场面。

朋友圈由此出现了一大波韩商言、小燕子、谢耳朵、杨超越……

可能被滥用、恶意编辑

甚至用于色情业

记者给一位朋友分享了ZAO制作后的视频,她的第一反应是——“好恐怖啊”。

“照片可以P,现在连视频都不能相信了吗?”这位在读理工科研究生的朋友说。

事实上,这样的质疑声昨天还有很多。

首先是版权问题。

根据APP的版权声明,ZAO产品上存在的短视频和表情等素材,除了特别声明是版权合作的之外,均来源于用户自发的上传。这就意味着,平台上的很多影视片段,并没有版权授权,用户使用并且传播后,不可避免会带来一些法律问题。

同时,还有肖像被盗用、滥用以及侵犯等问题。

众所周知,AI换脸技术已经被用到了色情业中,甚至形成了完整的产业链,从下游成品视频、中游定制视频到上游软件及教程都有。

更多人担心的是,面部识别功能已经深入到生活的方方面面,比如,很多账户都是直接绑定面部信息的,“如果APP把我的脸外泄了,被人盗刷怎么办?”

这样的安全隐患,真实存在吗?

昨天,记者联系了浙江大学人工智能研究所所长吴飞。

吴飞首先举了一个例子。曾有实验人员将一张熊猫图片交给机器识别,机器以55.7%的置信度认为这是熊猫。但是,一旦对这张图片加入一些人眼无法察觉的随机噪音后,机器竟然以99.3%的置信度认为这张图片是长臂猿图片。

吴飞举的这个例子,是想说明人工智能算法在识别方面存在安全隐患。

对于ZAO这样的APP,他认为,大家担心的风险,是有可能存在的。“如果用户面部信息被别有用心的人获取后,再对这些信息进行编辑,就有可能用修改后的图像注册电子ID,造成不利影响。比如,在一个视频场景中,通过换脸技术,在语音驱动下,让‘你’说出一些与场景吻合的话,但这并不是你说的,如果只是娱乐一下,倒也无所谓,但如果被用到金融乃至政治中,那就有可能产生不可估量的影响。”

但对于更多人担心的“被人刷脸登录支付宝”这样的问题,吴飞则表示,这个可能性并不大。

“像支付宝一类的金融APP,它的安全性是非常高的,光有图片信息还不够,它还会要求你做一些动作,会要求扫描对象必须是一个三维的活物才可以顺利登录、支付等。但是对一些安全性并不高的APP,比如有些学校的校园通,它要求父母刷脸才能接走孩子,要求并不严格,就有可能会出现一些隐患。”

“一旦数据被编辑,那么它就不再是原始真实的数据,就有可能产生眼见并不为实的情况。而对于这样的情况,普通老百姓是无法辨别的,还是要从技术层面进行防范,通过多种渠道进行验证,才能防范面部信息被别有用心的人盗用,产生危害。”吴飞说。

AI换脸APP刷屏 会被盗刷脸吗?浙大人工智能专家这样说

版权免责声明 1、本网站名称:勇哥资源网
2、本站永久网址:http://www.ygw7.com
3、本网站的资源部分来源于网络,如有侵权,请联系站长进行删除处理。
4、会员发帖仅代表会员个人观点,并不代表本站赞同其观点和对其真实性负责。
5、本站一律禁止以任何方式发布或转载任何违法的相关信息,访客发现请向站长举报
6、本站资源大多存储在云盘,如发现链接失效  点此反馈 我们会第一时间更新。

评论
本文作者 阅读排行 文章推荐

首页
最新
投稿
精选
我的