AI造出9张“万能人脸” 可冒充超40%的人

AI造出9张“万能人脸” 可冒充超40%的人

这种计算机生成的“万能人脸”作用就像万能钥匙一样,可以模仿多个身份,通过基于人脸识别的身份验证。

AI造出9张“万能人脸” 可冒充超40%的人

该研究论文题目为《利用网络辅助的潜在空间演化生成字典攻击的万能人脸(Generating Master Faces for Dictionary Attacks with a Network-Assisted Latent Space Evolution)》,已提交至论文预印本发布平台arXiv上。

论文链接:

https://arxiv.org/pdf/2108.01077.pdf

一、万能指纹技术带来灵感

由于其方便性,生物识别认证,特别是人脸识别认证,已日益成为主流,因此现在成为攻击者的主要目标。

攻击一般的计算机认证系统时,有破解者会采取字典式攻击,通过连续尝试多个输入来尝试通过认证系统。

而在现实世界的生物识别系统中,人们通常只能尝试几次输入,然后系统就会锁定。并且使用生物统计学进行的匹配并不精确,加之生物学统计数据的空间分布不均匀,这表明可能少量样本可以覆盖更大的人口比例。

特拉维夫大学研究人员从“万能指纹”研究中获得了灵感,他们开发了一种“万能人脸”,来绕过人脸识别软件。

二、通过算法分类对比,选出9张“万能人脸”

研究人员首先使用人工智能领域广泛使用的生成模型StyleGAN,来进行“万能人脸”的制作。

AI造出9张“万能人脸” 可冒充超40%的人

▲“万能人脸”训练过程

然后研究人员然后使用算法和神经网络来优化。有限内存矩阵自适应进化策略(LM-MA-ES)算法是非常适合高维黑匣子优化的,但是还需要增加一个组件,来推断哪些人脸是交叉身份认证的最佳候选选项。

所以,研究人员创建了一个“成功预测器(Success Predictor)”神经分类器,将大量候选人脸图像筛选出合适、可完成绕过人脸识别软件任务的人脸图像。

AI造出9张“万能人脸” 可冒充超40%的人

▲“成功预测器”神经分类器原理

研究人员使用算法和分类器将每一个系统输出的虚假人脸都与Labeled Faces in the Wild(LFW)数据库中5749个不同人的真实照片进行比较,并给出平均集覆盖率(Mean Set Coverage,MSC)分数,只保留分数高的虚假人脸图像。

其中对图像比较得到的分数会用于训练进化算法,帮助研究人员使用StyleGAN,创建出越来越多看起来像数据集中真实存在的人脸图像。最终得到9张“万能人脸”图像。

AI造出9张“万能人脸” 可冒充超40%的人

▲九张“万能人脸”

三、能覆盖超40%数据集

研究人员使用“万能人脸”对三种不同的深度人脸识别系统:dlib、FaceNet、SphereFace进行测试,因为这几种人脸识别系统在LFW数据集中测试竞赛的排名最高。

AI造出9张“万能人脸” 可冒充超40%的人

▲9张生成的图像所覆盖的数据集的百分比

研究人员实验得到,9张“万能人脸”覆盖了这三种人脸识别系统中42%-64%的数据集,也就是说9张“万能人脸”可以通过这些人脸识别系统中42%-64%的身份验证。

结语:人脸识别系统准确性备受关注

随着人脸识别技术的普遍应用,除了涉及到隐私保护问题外,人脸识别的准确性同样是人们热议的话题。美国就有几起因为人脸识别错误而错误发生逮捕的事件,引起了很大舆论反响。

特拉维夫大学研究人员其实给出了很好的思路,从如何破解人脸识别系统入手反推人脸识别系统漏洞,这样可以更好地完善人脸识别系统。

原创文章,作者:ItWorker,如若转载,请注明出处:https://blog.ytso.com/93813.html

(0)
上一篇 2021年8月16日 11:45
下一篇 2021年8月16日 11:45

相关推荐

发表回复

登录后才能评论