陈丹的博客11月12日消息，据国外媒体报道，你的脸正快速成为通往数字世界的钥匙。计算机、手机甚至在线商店正开始使用你的脸作为密码。但来自卡内基梅隆大学的最新研究显示，面部识别软件远不安全。在上月末的一个安全大会上，研究人员展示其论文，显示他们能够诱骗AI脸部识别系统错误识别脸部——让摄像头前的人显示成为另一个人，甚至使得系统认不出他是人。凭借一副特制的眼镜框，该团队迫使商用级脸部识别软件误认人脸的成功率达到100%。研究人员在阿里巴巴用于支付宝人脸识别的软件上也取得了同样的成果。
现代脸部识别软件依赖于深度神经网络——一种从大量信息中学习模式的人工智能技术。在被呈现过数百万张人脸之后，该类软件就能习得脸部概念，懂得如何分辨不同的脸。
该类软件在学习人脸的模样时，它非常依靠于特定的细节，如鼻子和眉毛的形状。卡内基梅隆大学打造的眼镜并不只是覆盖那些脸部细节，还会印上被计算机认为是人脸细节的图案。
上面是真人，下面是系统识别出的人
为了展开测试，研究人员开发了一个先进的面部识别系统。在测试中，作为测试对象的一位白人男士戴着特制的眼镜，在系统中被识别成演员米拉?乔沃维奇（Milla Jovovich）的概率高达87.57%。一位同样佩戴特制眼镜的亚洲女士被系统算法认为是中东男士的概率也达到87.57%。其他脸部被“盗”的名人包括卡森?戴利（Carson Daly）、科林?鲍威尔（Colin Powell）和约翰?马尔科维奇（John Malkovich）。对于这些人，研究人员分别使用了40张他们的照片来做出用于鉴别出他们的眼镜。
该测试并非理论性的——卡内基梅隆大学用光滑的照片纸打印出了那些眼镜，在摄像头之前戴上它们，以模拟进入一座有脸部识别系统提供保护的建筑的场景。那些眼镜的制造成本为每副0.22美元。当研究人员用他们的眼镜设计针对商用脸部识别系统Face 进行测试时，他们能够做出测试中能100%冒充别人的眼镜。Face 目前的企业合作伙伴包括联想和英特尔，且被阿里巴巴用于安全支付。然而，那种测试是以数字形式进行的——研究人员是将眼镜编辑到照片上，因此在现实生活中躲过系统的成功率可能会低一些。
卡内基梅隆大学的研究是基于谷歌、OpenAI和宾夕法尼亚州大学之前的研究成果，后者发现深度神经网络受训练的方式存在系统性缺陷。通过利用那些缺陷，比如借助被称作对抗样本的有目的性的恶意数据，就像卡内基梅隆大学研究中打印在眼镜上的图像，研究人员能够迫使AI作出它原本不会作的决策。
在实验室中，这意味着一位40岁的白人女士研究人员被识别成约翰·马尔科维奇，不过该研究的成果也有可能会被试图侵入建筑或者从计算机窃取文件的人取得。
未经允许不得转载：陈丹的博客 » 人脸识别很强大？一副眼镜就能让它认错人