人脸识别软件可能有一个种族偏见的问题

在贯穿于洛杉矶北部的16个“秘密地点”里，数字眼睛在观看着公众。这些不是普通的警察监视摄像机，这些相机正在看着你的脸。使用面部识别软件，这个相机可以识别有600英尺距离的个人。它们收集完脸孔后，然后进行对比，主要是与涉嫌帮派活动或者公开逮捕令热名单上的人。

考虑到洛杉矶逮捕和监禁率，那些热名单与相关的非裔美国人不相符的机会是很高的。并且最近的研究表明，人脸识别技术背后的算法可能在准确识别这些人时表现的更加糟糕。相比于其他种族，面部识别系统更可能要么就是错认，要么就是无法确认非裔美国人，错误可能会导致无辜的公民被标记为犯罪嫌疑人。虽然这项技术正在由全国各地的执法部门铺开，很少有人来探索或纠正这种偏见。

在2000年，州和地方警察开始使用面部识别。早期的系统是非常不可靠的，但是，今天在芝加哥、达拉斯、西弗吉尼亚州和其他地方的执法机构已经获得或正在积极考虑更复杂的监控摄像机系统。有些系统可以捕捉路人的脸和实时识别。

在佛罗里达州和南加利福尼亚的警长部门已配备智能手机或平板电脑的面部识别系统，那可以被用来使司机和行人与数据库照片进行对比。事实上，佛罗里达州和其他几个州已经在他们的面部识别数据库中，登记了每一个驾驶员的执照照片。现在，点击一下按钮，许多警察部门就可以确定一个嫌疑人，验证那没有驾驶执照司机的身份，或者为涉嫌在逃人员搜索一个州驾驶执照的数据库。

但是，和任何新兴技术一样，面部识别远远没有那么完美。公司市场的面部识别技术作为“一个高效、准确的工具”，有一个高于95%的识别率。在现实中，这些说法几乎是不可能的。在被部署到日常公民中之前，警察使用的面部识别算法是不需要进行公开或独立测试，以确定准确度或偏见。更令人担忧的是，在这些系统上已经做了有限的测试，发现了一种种族偏见的模式。

国立标准和技术机构（简称NIST）每四年就自愿测试人脸识别厂商。在2010年，NIST观察到，在每一轮测试中准确率就提高了十倍，就是一个戏剧性的证明技术的快速进步。

但研究表明，准确率提高并不均匀分布。与此相反，很多算法在种族、性别和其他人口特征方面，显示出令人不安的准确度差异。2011年的一项研究，由NIST举行的，在中国、日本和韩国开发的算法，识别东亚人的脸比白种人的更准确。在法国、德国、美国开发的算法，很显着更加擅长识别白种人的脸。这表明在该算法中，特别是其开发团队和测试照片数据库的种族构成，可以影响其结果的准确性。

同样，在2012年进行的一项研究，使用来自佛罗里达州的脸部照片，去测试三个商业厂商的算法，也揭示了种族偏见的存在。主要是由Cognitec来评价公司，它的算法被加利福尼亚州、马里兰州、宾夕法尼亚州和其他地方的警察使用。FBI（联邦调查局）的一名高级技术专家也参与了这个研究，发现所有的三个算法在识别非裔美国人与白种人时，准确率要低5%-10%。

这种偏见已经存在于全国警察交通、盘查和逮捕中，特别令人不安。在美国，非洲裔美国人至少高于两倍的概率被逮捕，通过一些估计，被警察监视的可能性多达2.5倍。面部照片的数据库和监控照片在准确率上会差别5%-10%。换句话说，不仅仅非洲裔美国人更可能被一个面部识别系统误解，而且他们在这些系统中也更有可能被登记和受处理。

想象一下警察正在调查一个被照相机抓住的抢劫犯。当他们运行一个视频时，仍然是嫌疑人的脸与他们的面部识别数据库相同，他们获得了10个可能的匹配，但是，没有一个是与犯罪嫌疑人完美匹配的。尽管如此，这个最相近的匹配被视为领先，并且警方开始调查一个无辜的人。今天由于面部识别算法的准确率偏差，相比白人，这种情况下更可能发生在一个非洲裔美国人身上。

这并不是说，面部识别算法是“种族主义”，或种族偏见已经被故意引入到它们的运行中。而是这些表现出的差距可能被无意中，会被引入到一个面部识别系统的设计和部署过程中。

开发一个算法的工程师可能把程序集中在某些种族的面部特征，一个人眼睛的形状、鼻子的宽度、嘴和下巴的宽度。反过来，这一决定可能是基于关于面部特征和过去就存在偏见的研究。

或者工程师可以依靠他自己的经验，来区分面部，可能就会受到工程师自己的种族偏见的影响。此外，算法学习如何评估相似的照片，通过练习预先存在的训练面孔。2012年研究发现，一个专门训练的算法，无论是非洲裔美国人或白人面孔成员的训练中，都比其他种族的成员更容易。

不幸的是，在过去十年中，这里讨论的两个研究仅仅发表了种族偏见，对于技术的评论远远太少，那有可能牵连在刑事调查中的犯罪嫌疑人的审查。NIST将引领一系列全面的偏见测试，除了现有的制度，对现有的面部识别系统工作形成一个正式的认证框架。

但是NIST测试人脸识别系统是自愿的。法律执行机构或市议会和国家立法机构出了法案，要求面部识别软件供应商提交现有测试的精确度以及新测试的发展给NIST。

在此期间，我们对整个国家和地方执法机构，使用的面部识别系统进行了深入的研究。

我们的研究，基于对100多个部门发送的信息自由的回应请求，旨在开发一个清晰的照片，关于这些系统如何使用，以及被谁使用，以及政策和法律标准是什么，有没有任何地方限制它们的使用。这个最终的报告，于今年夏天发布，将包括对于联邦和州政府的建议，以及地方各级执法机构、公司如何保证该技术在没有种族偏见下使用。

更多精彩内容尽在1号机器人网www.1hjqr.com

来源：1号机器人网