“故障的面部识别导致错误关押”
面部识别系统故障致使错误的关押
2022年3月26日，马里兰交通管理局在巴尔的摩郊区的一辆公交车上发生了一起暴力袭击事件。在对COVID口罩规定的争论之后，袭击者多次殴打了女性公交车司机，然后夺走了她的手机。
最近，根据一篇《纽约客》报道，监控摄像头拍摄到了袭击者的图像。交通警察利用这些照片制作了一份分发给执法机构的警示通报。
哈福德县检察官办公室的一名分析师通过面部识别软件分析了一个监控图像。算法将其与马里兰州阿宾顿市的五十多岁黑人阿隆佐·康奈利厄斯·索耶进行了匹配。
几天后，索耶在与一起无关的案件出庭时被逮捕
警方对他进行了审问并向他展示了警示通报中的图像，他坚称这些图像不是他的，但在他的缓刑官阿伦·道尔蒂查看了录像后，他的主张被驳回。道尔蒂之前只见过索耶两次，而那时索耶戴着口罩。
索耶的妻子卡罗娜·琼斯-索耶也坚决否认这些图像是她丈夫的，并且指出了年龄、体型、服装等方面的差异。她提供了潜在的不在现场时的 co,证明索耶与袭击事件无关。然而，警方没有进行进一步的调查以证实面部识别的结果。
人工智能的种族偏见
这个案例说明了在没有足够标准的情况下过度依赖人工智能工具的风险。
种族偏见导致面部识别系统以更高的错误率对非白人进行误认。算法的匹配使其权衡了警方调查中相反的目击证词。
在监狱中度过一个月后，当道尔蒂在与索耶的妻子会面后表示疑虑时，指控被撤销。面部识别的使用从未向索耶披露。当另一名男子最终被逮捕时，他和他的妻子都没有被通知。
这个故事突显了人脸识别培训不足、缺乏证实、未披露技术使用和确认偏见的担忧，导致警方忽视了相反的证据。
批评人士认为，应该禁止或严格限制面部识别的使用，因为它具有滥用和巩固不公正的潜力，而缺乏监督。索耶认为如果没有妻子的介入，他可能会错误地认罪，这表明这种做法可能会促使过度热衷的起诉。
随着人工智能的快速发展，公众需要保护不受未经证实的技术的伤害。索耶的经历凸显了改革、透明度和问责制的紧迫性，以防止更多的错误逮捕。
特色图片来源：Cottonbro工作室； Pexels；谢谢！
