專業/Knightscope 和自動資料機器

簡介

Knightscope 成立於 2013 年，是一家總部位於矽谷的私營安全行業初創公司。它以各種自動資料機器 (ADM) 為主要產品，面向私人和公共部門。

產品

ADM 有幾種型號，包括固定式、移動式（室內和室外）以及正在開發的全地形版本。

（從左到右）：K3 室內型、K5 室外型、K1 固定型和 K7 多地形自動資料機器 (圖片：Business Wire)

這些 ADM 可以按每小時 7 美元的價格出租，並在 15 個州部署。客戶必須全天候租用 ADM，並在他們擁有 ADM 的時間段內租用。

ADM 具有各種功能，包括眼級 360 度影片流和錄製、人員檢測、車牌識別、熱異常檢測、訊號檢測、即時音訊廣播、雙向對講以及預錄製訊息。客戶可以使用 Knightscope 安全運營中心 (SOC) 監控他們的 ADM，SOC 是一款隨任何 ADM 提供的監控應用程式。

重要的是，ADM “沒有武器，將來也不會擁有”，執行長 William Santana Li 說。他說，它們“既能起到物理威懾作用，又能每年每臺機器生成 90 多 TB 的資料”。 Santana Li 表示，他們生成的資料是為了幫助安保人員完成工作，而不是取代他們。

Knightscope 目前正在開發“可見和隱藏武器檢測”，以便能夠識別可疑的凸起物作為武器。

Knightscope 言論

Knightscope 的高管承認，他們的成功“在很大程度上取決於客戶對他們機器的接受程度”。 考慮到這一點，評估他們的言論可以讓我們洞悉其真實性。

愛國主義的呼籲

Knightscope 宣稱的使命是“讓美利堅合眾國成為世界上最安全的國家，改變每個人的一切”。 執行長 William Santana Li 聲稱，911 事件激發了他這個紐約人，在安保領域進行創新。 他說，他從小就“相信紐約市的天際線”代表著“美國夢”，而 911“襲擊了自由”。 他認為公民有“基本權利免受犯罪、暴力和恐怖主義的侵害”。

這些關於愛國主義和國家悲劇的呼籲在其他地方也能找到。Santana Li 說，Knightscope 是“在桑迪胡克發生的事情之後”成立的，因為我們國家“永遠不可能在每所學校都配備武裝警官”。 每個 Knightscope 預設模型上都有一面美國國旗，他們的口號之一是“加入我們，成為一股向善的力量”。

對金錢利益的呼籲

Knightscope 網站上寫著“犯罪每年對美國造成超過 1 萬億美元的負面經濟影響”。 執行長 Santana Li 說，如果他們的機器能夠“將這個萬億美元的問題削減一半”，他們將“改變一切”。 他談到這些機器如何減少對大型公司的盜竊，從而“降低每個人的價格”。 他說，這些機器可以“提高你家房子的價值，因為你住在一個更安全的社群”。 Knightscope 網站上的一篇證明強調，與“傳統安保服務”相關的成本節省了“超過 125,000 美元”。

對控制感的呼籲

儘管呼籲愛國主義或金錢利益，人們可能還是會擔心安保人員失業、人工智慧偏見，以及技術在人類能夠成功的地方失敗。Knightscope 透過呼籲人們對控制感來解決這些問題。

網站上的一篇證明強調，“機器... 補充了”現有的安保力量，並且“排程員能夠看到機器看到的內容”。 這篇證明將機器描繪成工具，而不是決策者。

執行長 Santana Li 將 Knightscope 的方法稱為“明確的‘軟體 + 硬體 + 人類’”，他的目標是“機器做單調乏味、計算量大的工作，而人類做戰略性和決策性的工作”。 Santana Li 的言論將人類置於駕駛席，機器人只做無聊或無腦的工作，而人類則拍板決定。他的言論分散了人們對“自動資料機器”中的“自動”的注意力。

儘管這些機器的價格刻意低於最低工資，並且導致安保力量減少， 但 Santana Li “非常憤怒”，“200 多萬執法人員和私人安保人員... 願意為你和你家人擋子彈”所提供的技術“有損於這個國家的尊嚴”。 Knightscope 試圖將他們的機器描繪成幫助高尚安保人員的工具，儘管在許多情況下，ADM 都是取代了這些人員。

隱私

無家可歸群體

機器人不斷收集資料，因為它們在勘察周圍環境，所以它們激怒了住在公共區域的無家可歸者也就不足為奇了。正如舊金山無家可歸者聯盟執行主任詹妮弗·弗裡登巴赫所說，“當你住在戶外時，缺乏隱私一段時間後真的很不人道。” 無家可歸者在白天被來來往往的人群打擾，而自動資料機器的加入，讓他們幾乎沒有任何隱私。這種反應主要是因為舊金山 SPCA 在 2017 年底使用了一種 ADM。

隱私期望

這些機器不僅影響無家可歸者，還影響所有使用公共空間的人。機器人在場時發生的任何事情都可能被記錄。雖然有些人會說這種缺乏隱私是不合理的，但李珊珊認為這種期望是毫無根據的。“在公共區域擁有隱私有點奇怪。你沒有隱私期望……這些機器運作的地方。” 這句話有一定的道理，因為大多數人的口袋裡都有手機這種攝像裝置，但機器人的功能不僅僅是持續錄影。它們還可以追蹤網路資料、進行熱成像以及手機不具備的其他功能。 雖然 Knightscope 確實提供了額外的安全保障，但它剝奪了公眾在公共空間可能擁有的任何剩餘隱私，尤其是無家可歸者。額外的安全保障是否值得犧牲隱私，將由企業主和監管機構來決定。

資料隱私

每臺 Knightscope 機器每年會生成 90 多 TB 的資料。 雖然 Knightscope 聲稱只會將這些資料用於安全目的，但最近的隱私醜聞表明，企業並不總是言出必行。 儘管他們對某些不會做的事情做出了宣告，但他們沒有說明如何處理這些資料。Knightscope 曾表示：“最終，我們將能夠預測和預防犯罪。” 所以他們很可能正在利用這些資料來實現這一目標。

偏見風險

普及性和公平性

Knightscope 的目標是讓每個人都感到更安全。但是，他們使用的技術可能與這個目標相矛盾。ADM 的一項功能是人員檢測。 但面部檢測和人體檢測本身就存在偏見，因為這項技術尚未發展到足以實現公平的程度。。那些知道自己更有可能被誤識別或被貼上“高風險”標籤的人不可能感到更安全。

安全感

Knightscope 希望為 ADM 新增的未來功能之一是可疑隆起的檢測系統。但該系統在兩種情況下無法實現這一目標。情況一，某人合法持有武器，並且合法地隱瞞武器，卻會被這些系統識別為高風險，而實際上對該區域沒有危險。情況二，某人穿著笨重或形狀奇怪的衣服或身體，會被識別為高風險。很容易認為該系統主要能達到抓捕罪犯的目標。但是，該系統能否成功取決於人類判斷是否能夠在誤報情況下取代 ADM 的判斷。

人為因素

防止機器判斷取代人類判斷很難。每臺 ADM 每天生成大約 250 GB 的資料。人類不太可能關注任何“不有趣”的事情。而這種做法導致嚴重後果的例子很多。Uber 委託人類司機“檢查”車輛，導致埃萊恩·赫茲伯格死亡。 警察直接相信面部識別技術的結果，結果導致人們被錯誤逮捕，甚至發生更糟糕的情況。 在知道人們如何與智慧系統互動的情況下，將責任轉嫁給使用者是不道德的。

公眾認知

反對

自動資料機器的興衰取決於公眾認知。執行長李珊珊認為，機器將會取代人類工作，導致公眾抵制。 效率和成本效益的提高需要超過這種成本。這些機器已經遭到了公眾的攻擊，包括幾次人身攻擊。在一件事件中，一名醉酒男子開始毆打 K5。 當被問及原因時，他說“它奇怪地看了他一眼”。 在另一件事件中，無家可歸者用帆布覆蓋了一臺 K5，並用燒烤醬塗抹了它。 對於那些無家可歸的人來說，公共空間是他們的家，機器人不斷入侵是可理解的滋擾。雖然無家可歸者是直接受到 K5 影響的一個群體，但其他群體也害怕機器人的發展。亞里士多德·喬治森是一位喜劇演員，他說他最受歡迎的一些帖子攻擊和嘲諷了機器人。他的粉絲中有些人說他們應該這樣做，這樣機器人就永遠不會崛起。 他們害怕能夠控制人類的人工智慧的發展，正如許多科幻媒體所描繪的那樣。正如維科薩所說，人類不喜歡機器人，因為他們不是人類，他們不是我們“群體”的一部分。

支援

然而，許多人開始將 Knightscope 機器人擬人化。在一次 Knightscope 機器人掉進噴泉的事件中，一位 Twitter 使用者開玩笑說 K5 機器人一定是工作壓力太大。 Knightscope 的執行長也表示，大多數客戶最終都會給機器取名字。 雖然這可能並不意味著接受 Knightscope 機器人作為“人類”，但它可能表明客戶開始將它們視為我們“群體”的一部分。當學生被問及他們對 Knightscope 機器人的感受時，大多數人表示不應該攻擊它們，因為它們是財產。 它們不應享有權利，但也不應該受到傷害。 隨著這些不同觀點的碰撞，占主導地位的觀點將決定 Knightscope 計劃的成功。

與其他爭議的平行

2012 年，洛杉磯警察局開始使用名為“Stingray”的監控裝置。Stingray 能夠透過模擬蜂窩塔來攔截大量的手機流量。目標是透過解析這些資料來發現犯罪資訊。在四個月內，該裝置被用於 21 起調查，其中包括暴力犯罪和非暴力犯罪。 這些用途遠遠超出了被引用的 Stingray 必要的用例，例如恐怖主義和暴力犯罪的調查。許多組織呼籲停止使用 Stingray，認為它是侵犯隱私的行為。聯邦調查局自 1995 年以來一直在使用類似的裝置，但由於地方當局的廣泛使用，這個問題變得越來越明顯。 該裝置現在正在巴爾的摩、塔拉哈西和密爾沃基使用。

雖然 Stingray 由聯邦執法機構使用，但 Knightscope ADM 由私人組織使用。此外，ADM 公開巡邏它們監控的空間，而 Stingray 則被執法機構秘密使用。最令人擔憂的平行之處在於資料的處理。Stingray 採用大規模資料收集，收集的無辜平民的資料比罪犯的資料還要多。收集後如何處理這些資料尚不清楚，一些警察部門正在積極隱瞞其使用情況。

這種 Stingray 的使用與 ADM 相似，因為它們在公共場所存在可疑的隱私侵犯行為。雖然 Stingray 明確侵犯了蜂窩流量的隱私，但 ADM 是一種可見的巡邏元素。但這並不能改變“公共”空間正在迅速變成未知觀察場所的事實。