專業/亞馬遜、Rekognition 和執法

計算機視覺

亞馬遜的 Rekognition 軟體是一套被稱為計算機視覺的 AI 技術之一。 在這個領域，計算機被訓練來解釋和視覺化周圍的世界。它使用帶有標籤的參考影像或影片資料庫作為比較器，與目標影像或影片進行比較，這個過程被稱為深度學習。深度學習模型使用這些資料庫來識別物體並做出相應的反應。計算機視覺是一個新興領域，它得益於影像採集裝置的激增以及計算能力和資料容量的提高。它也可以用於檢測和識別人員，包括他們的路徑和其他細節。這項技術在醫療、製造和安全行業有著廣泛的應用。

亞馬遜 Rekognition

亞馬遜的透過計算機視覺進行面部識別的部門被稱為亞馬遜 Rekognition。 它執行在亞馬遜自己的 AWS 雲計算系統上，為大大小小的消費者提供了一套可擴充套件的計算機視覺功能。其功能包括物體、場景和活動檢測、面部識別、面部分析、路徑和 NSFW 內容檢測。它能夠在很短的時間內分析和過濾大量資訊。從影像中提取文字是另一個小功能。它的計算機視覺演算法可以在使用者建立的或亞馬遜生成的資料庫上執行。這允許客戶根據自己的特定用例自定義系統的準確性。亞馬遜 Rekognition 最大的客戶之一是執法部門。快速識別個人的演算法可用於綁架等案件以及追蹤罪犯。對於有更多影像資料庫的慣犯，計算機也更可靠。

執法

華盛頓縣警長辦公室

亞馬遜一直在努力修改 Rekognition 技術，使其更適合警務部門。亞馬遜已將 Rekognition 技術出售給俄勒岡州的華盛頓縣警長辦公室。警方使用這項技術來識別目標人物。在使用這項技術之前，目標人物是由執勤警官識別的。如果某位警官在面部識別突破期間不在崗，則該過程會減慢。亞馬遜的 Rekognition 技術允許面部在資料庫中執行，以便更快地找到匹配項。

亞馬遜的 Rekognition 技術並不總是準確的。亞馬遜建議警務部門在採取逮捕行動之前至少要獲得 95% 的匹配度。Rekognition 使用的資料庫必須擴充套件，以提高軟體進行正確匹配的可靠性。

BodyWorn

BodyWorn 是一種面部識別技術，它利用警察佩戴的隨身攝像頭。 隨身攝像頭拍攝的影片會立即傳送到警局。然後，警局可以透過面部識別軟體執行這些影片，希望能找到匹配項。這縮短了警方調查詢到目標人物所需的時間。

名人匹配錯誤

亞馬遜的 Rekognition 線上儀表板提供了一個名人識別功能。使用者可以上傳名人的照片，並以一定程度的確定性進行匹配。上傳的照片越接近肖像，確定性就越高。託尼·班尼特 的肖像比他在戰勝普渡大學贏得四強賽後的照片確定性更高 (91%) (67%)。

一些名人看起來有點像，但 Rekognition 仍然能夠區分他們。Rekognition 正確地標記了凱蒂·佩裡和佐伊·丹斯切爾並排的照片，確定性在 80% 或以上。 雖然這兩位看起來很像，但網上有成千上萬張他們的照片。演員威爾·法瑞爾和鼓手查德·史密斯看起來也很像，但 Rekognition 仍然能夠以百分百的確定性區分他們。 就像佩裡和丹斯切爾一樣，這兩位在網上都有很多照片。Rekognition 將這些照片與充滿預先標記的名人影像的資料庫進行比較。由於上傳的影像直接來自 Google，因此這些影像被正確標記並不奇怪。比較資料庫中的某些影像可能是上傳的完全相同的影像。作為完全匹配，以百分百的確定性標記名人是有道理的。

Rekognition 可能在比較流行的影像方面很成功，但可能依賴於名人的知名度。該演算法似乎有很有前景的應用，但可能依賴於並非總是存在的特徵。法瑞爾和史密斯被正確區分，但有一些細微的特徵可以區分他們。兩位名人都有不同的髮際線，傾向於穿不同的衣服，而且經常有不同的鬍鬚。史密斯經常戴著反戴的帽子，而法瑞爾則沒有。在一張法瑞爾和史密斯穿著相同衣服的照片中，Rekognition 將法瑞爾和史密斯都標記為查德·史密斯。 擁有相似的面部結構，穿著相同的衣服和帽子可能會消除兩位名人之間的某些差異，從而產生不準確的結果。

政客匹配錯誤

美國公民自由聯盟 (ACLU) 進行了研究，在研究中，將立法者的影像透過 Rekognition 軟體執行。他們發現該軟體錯誤識別了 28 位立法者。在這 28 起錯誤識別中，大多數是是非洲裔美國人和拉丁美洲人。在一些案例中，立法者與以前被捕人員的影像相匹配。

三位被錯誤識別的立法者聯絡了傑夫·貝索斯，表達了他們的擔憂。他們強調，已知立法者中 5% 的錯誤率表明 Rekognition 軟體存在問題，不應很快出售給執法部門。他們要求提供有關亞馬遜如何測試 Rekognition 技術以及亞馬遜的政府客戶是誰的額外資訊，以確保由於該技術的準確性而不會發生不公正行為。

美國公民自由聯盟 (ACLU)

美國公民自由聯盟 (ACLU) 已致函亞馬遜執行長傑夫·貝索斯，表達了他們對 Rekognition 的擔憂。在信中，ACLU 討論了 Rekognition 軟體經常錯誤識別有色人種的問題。他們擔心政府可能會使用該軟體來剝奪已經過度執法的有色人種社群的自由。他們討論了 Rekognition 軟體將允許政府“在移民開始新生活時持續追蹤他們”以及“識別被警官隨身攝像頭捕捉到的政治抗議者”。

美國公民自由聯盟 (ACLU) 對亞馬遜的主要問題之一是該公司與美國移民與海關執法局 (ICE) 的聯絡。亞馬遜一直在與 ICE 就 Rekognition 問題進行溝通。^[10] ACLU 認為，如果 ICE 將 Rekognition 技術納入其工具箱，將更容易針對和分離居住在美國的家庭。^[10] 理論上，Rekognition 軟體可以擁有所有非法移民在美國的資料庫，並將與該軟體接觸的任何個人與該資料庫進行比較。

ACLU 使用其他公司來證明人臉識別技術存在嚴重缺陷。在信中，他們討論了谷歌和微軟如何承認人臉識別軟體的風險，並且不打算在這些風險得到緩解之前將其推向市場。^[10] 其他組織簽署了這封信，以示對反對向執法部門出售 Rekognition 的團結。這兩個組織包括穆斯林正義聯盟和政策倡議中心。

未能遵守標準

美國國家標準與技術研究院 (NIST) 是一家旨在為美國技術提供標準的政府機構。NIST 為某些算法制定標準，其中之一是人臉識別和性別分類。^[11] 他們正在進行人臉識別供應商測試 (FRVT)，^[12] 與 45 家供應商的 127 種演算法合作，制定人臉識別準確性標準，並確保所有演算法都按照標準執行。儘管 Rekognition 服務自 2016 年起便已推出，但他們仍然不是 NIST 供應商。^[13] 憑藉信譽良好的計算基礎設施，使用者沒有理由懷疑亞馬遜的服務不準確。他們的大品牌名稱是使用者信任該系統的驅動力，即使該系統三年來一直沒有透過 NIST 標準驗證。

免費比較資料庫

社交媒體內容共享網站（Facebook、Instagram、Twitter 等）允許收集免費資料來填充識別比較資料庫。沒有任何東西能夠阻止某人儲存 Facebook 照片並建立自己的資料庫，其中充滿了人類影像，用於與其他面部進行比較。針對這些資料庫執行的攝像機鏡頭可能存在偏差。將鏡頭與這些資料庫中的嫌疑人照片進行比較只會產生以前被定罪的人的結果。另一種方法是將鏡頭與隨機人員的影像進行比較，希望找到匹配項。喬治城大學的研究人員發現，大約一半的美國成年人的人臉都在一個比較資料庫中。^[14] 這些資料庫可能會產生不準確的結果。安全攝像機鏡頭通常不準確，因為影像模糊，無法突出面部特徵。當這些鏡頭與這些資料庫進行比較時，可能會產生匹配，無論其有效性如何。無辜的人可能會被捲入調查或被判犯下他們沒有犯下的罪行，從而損害他們的聲譽。

演算法正義聯盟

致貝索斯

演算法正義聯盟 (AJL) 由 Joy Buolamwini 發起，以回應 Rekognition 服務的缺陷。^[15] 他們在 2018 年給貝索斯寫信解釋說，他的服務在識別少數族裔方面存在一些問題。^[16] 用於識別人員的一些特徵（膚色、頭髮顏色等）對少數族裔群體不利。^[17] 在性別分類的情況下，正確標記影像的機率為 50%。人臉識別機率要低得多，與該資料庫進行比較的面部有很小的機率出現在資料庫中。執法部門不會使用這項技術來識別男性和女性，而是識別身份。他們敦促貝索斯停止與執法部門合作，因為當人們被錯誤識別時，這項技術弊大於利。^[16]

安全面部承諾

AJL 發起了安全面部承諾，該承諾禁止將人臉識別用於警務，並且任何政府使用人臉識別都必須完全透明，這意味著非偏斜的資料庫，平等地代表所有種族和性別。^[18] AJL 敦促亞馬遜簽署該承諾，停止與執法部門合作，並與 NIST 合作以產生準確的結果。截至 2019 年 5 月，亞馬遜仍在與執法部門合作。他們不是 NIST 供應商，聲稱 Rekognition 基礎設施無法下載，因為它屬於 AWS 的一部分。亞馬遜願意與 NIST 合作，共同開發更好的基準和外部 API 測試。^[19]