深度解析|“蚂蚁呀嘿”AI特效被下架原因

深度解析|“蚂蚁呀嘿”AI特效被下架原因

今年年初,在微信朋友圈、微博、抖音等社交媒体平台,相信不少人都被这个魔性的音乐,配合着夸张扭动的变脸视频刷屏了。

深度解析|“蚂蚁呀嘿”AI特效被下架原因

从马斯克到马云、马化腾等大佬,从成龙到吴京等娱乐大咖,甚至世界知名科学家也没能幸免,都唱起了“蚂蚁呀嘿”。

网友也纷纷直呼,这是谁把蚂蚁窝捅了吗?

“蚂蚁呀嘿”AI特效由一款名为Avatarify软件制作,该软件在给大家带来欢乐的同时,火爆全网。然而,仅仅7天之后,这款软件就凉凉了,3月2日凌晨该软件在AppStore中国区悄然“下架”。但下架的原因,官方讳莫如深。

那么,下架原因究竟是什么,我从信息安全角度带领大家一起来解析一下。

深度解析|“蚂蚁呀嘿”AI特效被下架原因

一、“蚂蚁呀嘿”AI特效生成原理

从生成原理上来讲,“蚂蚁呀嘿”等AI“变脸”软件,将别人的面部图片套在模特的表情上,经过算法驱动,让图片动起来,再配上魔性的BGM,就变成一段跟着节奏晃动的视频。如果想要照片中的多人都动起来,根据抖音中大多数视频制作教程,则还需要一些视频剪辑软件加以辅助。

但归根结底,这种AI特效能够如此火爆,让大家玩得不亦乐乎,最主要的原因是方便——在给大家带来娱乐的同时,不需要任何编程知识,便可面部的替换,门槛极低。

二、换脸特效安全争议不可回避

刚才,我们明白了“蚂蚁呀嘿”AI特效的生成原理,那么从保护隐私及信息安全角度来看,这种AI换脸特效会给我们带来怎样的潜在风险呢?

深度解析|“蚂蚁呀嘿”AI特效被下架原因

风险一:“换脸”可能变成“丢脸”

某些AI“换脸”APP需要用手机号动态验证码登录,在进行换脸时,要眨眼、抬头等各种操作,与日常刷脸支付时所采集的脸部信息十分类似,这样一来,在使用者不知情的情况下,不法软件就会利用该漏洞非法收集个人面部信息,个人面部信息或遭泄露,造成“丢脸”的风险。

同时,网上也存在很多以贩卖个人面部信息的网站,犯罪分子可以以超低价格获得此类个人信息。

风险二:“丢脸”可能导致“丢钱”

目前,大部分银行等金融机构开设了人脸识别登陆功能,“刷脸”支付甚至是远程签约等场景也越来越多见,如果用户面部信息泄漏,“脸”不安全,那么“钱”也面临着被骗的风险。

深度解析|“蚂蚁呀嘿”AI特效被下架原因

获得用户面部信息后,不法分子可以使用AI换脸软件,通过操纵一张图片,深度操纵用户表情,并生成一段伪造的视频,让用户在视频中做出点头、摇头、说话等动作,用于攻击人脸识别系统。

也就是说我们只需要一个人的一张照片,就可以冒充他,然后攻破人脸识别系统。所以下架此类软件的原因就不难理解了。

风险三:肖橡、名誉或遭侵犯

随着“AI换脸”软件的普通使用,利用一张图片,就可以简单地替换他人的面部,合成一些不法图片,几乎可以以假乱真,但这样做,侵犯他人肖橡权、名誉侵权等法律问题也随之而来。

风险四:“丢脸”后别再“丢了清白”

我们不妨来看几个例子。

深度解析|“蚂蚁呀嘿”AI特效被下架原因

2019年2月,一个“朱茵变杨幂”的换脸视频蹿红网络,视频引发争议后,视频制作者随即下架视频。

2019年6月,潘多拉魔盒被打开,“换脸”技术被用在一些涉嫌违法犯罪领域,出现了更可怕的软件,宣称能实现“一键脱衣”,这已经不是娱乐,已经过限了。

更有甚者,一些不良网站用“AI换脸”技术,制作出一些“换脸视频”,用知名艺人“面孔”,“嫁接”出涉嫌色情淫秽的视频,让人真假难辨。

我们可以设想一下,如果不法分子轻易获得我们的面部图片,利用“AI换脸”技术,制作一些低俗甚至涉黄的视频,一旦在网络上传播,就有可能对人格尊严造成巨大损害,我们在“丢脸”后,必将再“丢了清白”。

同时,根据网络安全公司的调查,过去几年,网络诈骗分子也盯上了AI换脸技术,现在他们通过伪造视频、企业高层语音,要求企业财务人员资金转移,或者伪造企业团队核心负责人照片,进行精准勒索、诈骗敛财。

深度解析|“蚂蚁呀嘿”AI特效被下架原因

风险五:“换脸”门槛低,当心“被贷款”

现在网贷已经十分普遍,不少网贷机构进行“人脸验证”时,仍使用人工审核或技术含量偏低的机器审核。

个人面部信息被泄露,被不法分子掌握后,用这些黑科技完全可以让人的面孔“活”过来,达到以假乱真,让不知情者“被网贷”,背上巨额债务。

另外,换脸视频被骗,很难通过技术手段来防止,因为这种东西是防不胜防的,唯一能做的就是大家提高在网络上和人交流的警惕性。

深度解析|“蚂蚁呀嘿”AI特效被下架原因

以上都在不断贩卖焦虑,给大家带来恐慌,但请大家放心,以目前的技术水平,攻击人脸识别防御系统并不简单,正规机构所使用的刷脸支付功能均采用了3d人脸识别、活体检测等先进技术,可以有效避免伪造人脸带来的身份冒用情况,所以现在人脸识别系统还是可以放心使用的。

尽管目前换脸软件不会产生支付风险,但随着技术的进步,将来黑客依靠一部手机就可以完成攻击也不是不可能,所以,我们还是要注意保护个人隐私,提前防范风险。

保护个人隐私和确保信息安全仍然任重道远,需要所有人引起重视。

深度解析|“蚂蚁呀嘿”AI特效被下架原因

来源:年纪大了爱唠叨

声明:本站部分文章及图片转载于互联网,内容版权归原作者所有,如本站任何资料有侵权请您尽早请联系jinwei@zod.com.cn进行处理,非常感谢!

上一篇 2021年10月13日
下一篇 2021年10月13日

相关推荐