专业/亚马逊、Rekognition 和执法

计算机视觉

亚马逊的 Rekognition 软件是一套被称为计算机视觉的 AI 技术之一。 在这个领域，计算机被训练来解释和可视化周围的世界。它使用带有标签的参考图像或视频数据库作为比较器，与目标图像或视频进行比较，这个过程被称为深度学习。深度学习模型使用这些数据库来识别物体并做出相应的反应。计算机视觉是一个新兴领域，它得益于图像采集设备的激增以及计算能力和数据容量的提高。它也可以用于检测和识别人员，包括他们的路径和其他细节。这项技术在医疗、制造和安全行业有着广泛的应用。

亚马逊 Rekognition

亚马逊的通过计算机视觉进行面部识别的部门被称为亚马逊 Rekognition。 它运行在亚马逊自己的 AWS 云计算系统上，为大大小小的消费者提供了一套可扩展的计算机视觉功能。其功能包括物体、场景和活动检测、面部识别、面部分析、路径和 NSFW 内容检测。它能够在很短的时间内分析和过滤大量信息。从图像中提取文本是另一个小功能。它的计算机视觉算法可以在用户创建的或亚马逊生成的数据库上运行。这允许客户根据自己的特定用例自定义系统的准确性。亚马逊 Rekognition 最大的客户之一是执法部门。快速识别个人的算法可用于绑架等案件以及追踪罪犯。对于有更多图像数据库的惯犯，计算机也更可靠。

执法

华盛顿县警长办公室

亚马逊一直在努力修改 Rekognition 技术，使其更适合警务部门。亚马逊已将 Rekognition 技术出售给俄勒冈州的华盛顿县警长办公室。警方使用这项技术来识别目标人物。在使用这项技术之前，目标人物是由执勤警官识别的。如果某位警官在面部识别突破期间不在岗，则该过程会减慢。亚马逊的 Rekognition 技术允许面部在数据库中运行，以便更快地找到匹配项。

亚马逊的 Rekognition 技术并不总是准确的。亚马逊建议警务部门在采取逮捕行动之前至少要获得 95% 的匹配度。Rekognition 使用的数据库必须扩展，以提高软件进行正确匹配的可靠性。

BodyWorn

BodyWorn 是一种面部识别技术，它利用警察佩戴的随身摄像头。 随身摄像头拍摄的视频会立即发送到警局。然后，警局可以通过面部识别软件运行这些视频，希望能找到匹配项。这缩短了警方调查找到目标人物所需的时间。

名人匹配错误

亚马逊的 Rekognition 在线仪表板提供了一个名人识别功能。用户可以上传名人的照片，并以一定程度的确定性进行匹配。上传的照片越接近肖像，确定性就越高。托尼·班尼特 的肖像比他在战胜普渡大学赢得四强赛后的照片确定性更高 (91%) (67%)。

一些名人看起来有点像，但 Rekognition 仍然能够区分他们。Rekognition 正确地标记了凯蒂·佩里和佐伊·丹斯切尔并排的照片，确定性在 80% 或以上。 虽然这两位看起来很像，但网上有成千上万张他们的照片。演员威尔·法瑞尔和鼓手查德·史密斯看起来也很像，但 Rekognition 仍然能够以百分百的确定性区分他们。 就像佩里和丹斯切尔一样，这两位在网上都有很多照片。Rekognition 将这些照片与充满预先标记的名人图像的数据库进行比较。由于上传的图像直接来自 Google，因此这些图像被正确标记并不奇怪。比较数据库中的某些图像可能是上传的完全相同的图像。作为完全匹配，以百分百的确定性标记名人是有道理的。

Rekognition 可能在比较流行的图像方面很成功，但可能依赖于名人的知名度。该算法似乎有很有前景的应用，但可能依赖于并非总是存在的特征。法瑞尔和史密斯被正确区分，但有一些细微的特征可以区分他们。两位名人都有不同的发际线，倾向于穿不同的衣服，而且经常有不同的胡须。史密斯经常戴着反戴的帽子，而法瑞尔则没有。在一张法瑞尔和史密斯穿着相同衣服的照片中，Rekognition 将法瑞尔和史密斯都标记为查德·史密斯。 拥有相似的面部结构，穿着相同的衣服和帽子可能会消除两位名人之间的某些差异，从而产生不准确的结果。

政客匹配错误

美国公民自由联盟 (ACLU) 进行了研究，在研究中，将立法者的图像通过 Rekognition 软件运行。他们发现该软件错误识别了 28 位立法者。在这 28 起错误识别中，大多数是是非洲裔美国人和拉丁美洲人。在一些案例中，立法者与以前被捕人员的图像相匹配。

三位被错误识别的立法者联系了杰夫·贝索斯，表达了他们的担忧。他们强调，已知立法者中 5% 的错误率表明 Rekognition 软件存在问题，不应很快出售给执法部门。他们要求提供有关亚马逊如何测试 Rekognition 技术以及亚马逊的政府客户是谁的额外信息，以确保由于该技术的准确性而不会发生不公正行为。

美国公民自由联盟 (ACLU)

美国公民自由联盟 (ACLU) 已致函亚马逊首席执行官杰夫·贝索斯，表达了他们对 Rekognition 的担忧。在信中，ACLU 讨论了 Rekognition 软件经常错误识别有色人种的问题。他们担心政府可能会使用该软件来剥夺已经过度执法的有色人种社区的自由。他们讨论了 Rekognition 软件将允许政府“在移民开始新生活时持续追踪他们”以及“识别被警官随身摄像头捕捉到的政治抗议者”。

美国公民自由联盟 (ACLU) 对亚马逊的主要问题之一是该公司与美国移民与海关执法局 (ICE) 的联系。亚马逊一直在与 ICE 就 Rekognition 问题进行沟通。^[10] ACLU 认为，如果 ICE 将 Rekognition 技术纳入其工具箱，将更容易针对和分离居住在美国的家庭。^[10] 理论上，Rekognition 软件可以拥有所有非法移民在美国的数据库，并将与该软件接触的任何个人与该数据库进行比较。

ACLU 使用其他公司来证明人脸识别技术存在严重缺陷。在信中，他们讨论了谷歌和微软如何承认人脸识别软件的风险，并且不打算在这些风险得到缓解之前将其推向市场。^[10] 其他组织签署了这封信，以示对反对向执法部门出售 Rekognition 的团结。这两个组织包括穆斯林正义联盟和政策倡议中心。

未能遵守标准

美国国家标准与技术研究院 (NIST) 是一家旨在为美国技术提供标准的政府机构。NIST 为某些算法制定标准，其中之一是人脸识别和性别分类。^[11] 他们正在进行人脸识别供应商测试 (FRVT)，^[12] 与 45 家供应商的 127 种算法合作，制定人脸识别准确性标准，并确保所有算法都按照标准执行。尽管 Rekognition 服务自 2016 年起便已推出，但他们仍然不是 NIST 供应商。^[13] 凭借信誉良好的计算基础设施，用户没有理由怀疑亚马逊的服务不准确。他们的大品牌名称是用户信任该系统的驱动力，即使该系统三年来一直没有通过 NIST 标准验证。

免费比较数据库

社交媒体内容共享网站（Facebook、Instagram、Twitter 等）允许收集免费数据来填充识别比较数据库。没有任何东西能够阻止某人保存 Facebook 照片并创建自己的数据库，其中充满了人类图像，用于与其他面部进行比较。针对这些数据库运行的摄像机镜头可能存在偏差。将镜头与这些数据库中的嫌疑人照片进行比较只会产生以前被定罪的人的结果。另一种方法是将镜头与随机人员的图像进行比较，希望找到匹配项。乔治城大学的研究人员发现，大约一半的美国成年人的人脸都在一个比较数据库中。^[14] 这些数据库可能会产生不准确的结果。安全摄像机镜头通常不准确，因为图像模糊，无法突出面部特征。当这些镜头与这些数据库进行比较时，可能会产生匹配，无论其有效性如何。无辜的人可能会被卷入调查或被判犯下他们没有犯下的罪行，从而损害他们的声誉。

算法正义联盟

致贝索斯

算法正义联盟 (AJL) 由 Joy Buolamwini 发起，以回应 Rekognition 服务的缺陷。^[15] 他们在 2018 年给贝索斯写信解释说，他的服务在识别少数族裔方面存在一些问题。^[16] 用于识别人员的一些特征（肤色、头发颜色等）对少数族裔群体不利。^[17] 在性别分类的情况下，正确标记图像的概率为 50%。人脸识别几率要低得多，与该数据库进行比较的面部有很小的几率出现在数据库中。执法部门不会使用这项技术来识别男性和女性，而是识别身份。他们敦促贝索斯停止与执法部门合作，因为当人们被错误识别时，这项技术弊大于利。^[16]

安全面部承诺

AJL 发起了安全面部承诺，该承诺禁止将人脸识别用于警务，并且任何政府使用人脸识别都必须完全透明，这意味着非偏斜的数据库，平等地代表所有种族和性别。^[18] AJL 敦促亚马逊签署该承诺，停止与执法部门合作，并与 NIST 合作以产生准确的结果。截至 2019 年 5 月，亚马逊仍在与执法部门合作。他们不是 NIST 供应商，声称 Rekognition 基础设施无法下载，因为它属于 AWS 的一部分。亚马逊愿意与 NIST 合作，共同开发更好的基准和外部 API 测试。^[19]