不止數字：中國的社會信用體系存在固有偏差
在反烏托邦科幻電視劇《Nosedive》中，一位名叫 Lacie 的女性，她痴迷於攀登社會階梯，但卻因為她的低社交媒體評分而無法獲得她夢寐以求的公寓，她遵循社交媒體顧問的建議，試圖給 “High Fours” 留下深刻印象，這些 “High Fours” 的評分最接近她社會對社會成就的標準，即五星評級。《黑鏡》的創作者 Charlie Brooker 將其構思為 “對接納和我們喜歡錶現出來的形象的諷刺”， “Nosedive” 談到了當前的社交媒體焦慮和我們對 社交媒體影響者 的過度崇拜。[1] 但是，正如劇集所描繪的那樣，因為低社交評分而實際失去工作，這太牽強，對吧？其實不然。事實上，這正是今天中國因其社會信用體系而可能發生的事情。[2]
中國擁有世界上 最強大的網際網路存在，擁有近十億使用者。[3] 中國也擁有最嚴格的媒體審查制度，西方世界使用的多數網站和 Web 2.0 服務被完全遮蔽，並隨後被他們自己的 “山寨版” 取代：西方世界習慣使用 Google，而中國人則使用 Baidu。中國人使用 微博 而不是 Twitter。中國人建立了 人人 來替代 Facebook。中國人使用 優酷 和 土豆 來觀看影片，而不是 YouTube。[4]
透過將中國人留在他們自己的網站上，這些網站通常會將所有個人資料記錄和儲存在該國首都北京的建築物內，政府可以不斷監控線上活動及其執行者。[5] 現在，中國正在實施全國社會信用體系，這種政府監控加上中國人對其 審查網際網路 的接受，可能會導致災難性的結果。歷史表明，掌權者——特別是那些能夠接觸到創新技術的人——往往會偏袒富人和精英。
那麼，新的中國社會信用體系是什麼，它是如何運作的呢？中國總理 溫家寶 於 2011 年正式推出社會信用體系，該體系是中國政府旨在建立統一的記錄系統，以跟蹤和評估其公民、企業和區域行政部門的信譽。一些區域行政部門使用數值來評估信譽，而中央政府則主要使用黑名單和白名單。[6] 該體系原本定於 2020 年開始實施，但由於 COVID-19 大流行，該截止日期被推遲了。[7] 該體系的某些方面類似於銀行在提供貸款之前進行的信用檢查——在美國使用 Experian 等信用評級公司——它也類似於西方世界衡量社交媒體價值的方式，通常取決於網際網路使用者的粉絲數量或他們在線上帖子上的點贊數量。然而，中國體系將這些評級應用於中國生活的各個方面。公民或企業因捐贈慈善機構而獲得高排名，或者因玩音樂太大聲等行為而被扣除價值。[6] [8]
一旦全國性體系完全實施，中國公民、企業和地方政府將根據從中國 “大科技”[8] 收集的資料分配一個數字，即該國收集個人資訊以及從人們和小企業可能訪問的網站收集的其他資料的創新技術。
資訊收集的關鍵技術之一是使用面部識別技術來監控公民及其行動的 人工智慧 (AI)。由於中國政府將尋找的違規行為範圍從亂穿馬路和不合理的商業行為到分享反政府言論的證據，因此一旦該體系到位，AI 和攝像頭將能夠完成大部分跟蹤公民並提醒政府違規行為的工作。 [9]
對企業和個人而言，低評分的負面影響也有所不同。如前所述，中央政府已經對他們認為行為不端的企業和個人實施了黑名單制度。透過將這些違規者列入黑名單，政府公開羞辱他們，同時禁止一些個人權利，並可能限制他們繼續經商的能力。一些地方政府為獲得高評分提供了積極的獎勵，以試圖提高對該體系的信任，例如優先醫療保健和免押金住房。[9]
如前所述，中國政府遮蔽了 Facebook、Twitter 和 YouTube 等西方社交網路，並用他們自己的網站取代了它們。透過只允許這些網站存在並監控其公民被允許釋出的內容，中國政府可以控制全國的敘事和輿論。
說一些關於審查制度法律或對官員的譴責言論？人們可能會被下線、起訴，甚至在某些情況下，被永久列入黑名單，失去基本人權，例如獲得醫療保健和交通的機會。說一些好的事情或釋出一個政府可能想要罷免的官員的故事？當政府允許你的觀點傳播幾天，然後最終將其刪除時，預計你會獲得一些知名度。這種選擇性審查可能會讓中國公民感到不安，他們現在面臨著政府應用分數的影響，這些分數會影響人們對誰有資格獲得基本人權的看法。[4]
中國是世界上人口最多的國家，根據其最後一次人口普查，佔世界人口的 20%，公眾希望以社會信用體系的形式進行監督是意料之中的，但這種期望也可能會有偏差，因為中國是一個威權政權：
總的來說，[中國人] 對 SCS [社會信用體系] 表現出高度認可，80% 的 [參與者] 對 SCS 表示贊成或強烈贊成。只有 19% 的 [參與者] 對 SCS 持價值中立態度（既不贊成也不反對），而只有 1% 的人表示強烈反對或有點反對。在一定程度上，我們發現 SCS 的高認可度和幾乎不存在的反對意見可能反映了在威權環境下進行調查的性質——雖然我們明確告知資料是匿名的，僅用於研究目的，但一些比較謹慎的 [參與者] 可能出於對錶達反對意見會導致國家報復的擔憂而偽造了自己的偏好。[10]
這種相同的意識形態也可能促成了公眾對其審查制度的網際網路的普遍接受。由於中國人沒有獲得反對政府的機會，人們必須希望新技術的實施會帶來更多的好處，而不是壞處，特別是現在中國政府正在推動對兒童的監控，正如《華爾街日報》的特稿報道 “中國如何在課堂上使用人工智慧” 中所述。該報道重點關注一種 腦電圖 (EEG) 頭帶，年輕學生必須佩戴它來衡量他們在課堂上的注意力，其輸出由教師監控，並與所有學生的家長共享。當記者將這段畫面展示給舊金山加州大學神經學家西奧多·桑託時，他感到驚訝，並指出該技術容易出現錯誤讀數，因此他不確定它對測量注意力到底有多有用。然而，中國教師解釋說，佩戴頭帶本身 “迫使學生變得更有紀律”。[11] 換句話說，這項技術正在從小培養學生的行為。
此外，中國長期以來一直利用技術來監控和壓制其少數民族人口。在新疆，這個位於中國邊境且擁有中國最大穆斯林人口的地區，遵守規則的方式是透過虛擬檢查站和刷身份證來強制執行的。中國政府已將警務完全數字化，並正在創造一種持續監控的狀態來控制人口。有些人被允許繞過這些檢查站，不受數字化警務的約束。據《紐約時報》的克里斯·巴克利和保羅·莫祖爾報道，“在許多檢查站，特權群體——漢族人、有通行證的維吾爾族官員和外國遊客——會被放行透過“綠色通道”。雖然中國人可能尋求更多信任和警務，但這顯然是一種有針對性的監控形式，有可能蔓延到更多少數民族群體。[12]
結論
[edit | edit source]由於中國已經實施了社會信用體系，並且對被列入黑名單的恐懼始終存在，我理解抵抗政府是一項艱鉅的任務。我也理解這是一個重大的道德問題，越來越多的中國人將被剝奪基本人權。技術創新正在以比任何人都能跟上的速度發展，盲目地追隨政府對該技術的應用將對所有各方造成災難，但正如歷史所證明的那樣，少數人將永遠承受最大的負擔。
我懇請中國人民抵制使用這種信用體系。第一步是選擇不加入私人資料彙總機構。在社會信用體系大規模實施之前，私營公司已經開始在自願的基礎上收集資訊，我懇請你們抵制。每次政府指定的大公司受到青睞，政府就會獲勝。中小企業和任何擁有招聘權的人也應該在招聘決策時忽略信用評分的考慮。透過這樣做，人民可以廢除信用體系，讓政府獨自使用它。雖然中國公民可能認為監控國家（包括安全和保障）的好處超過了本文中概述的弊端，但我請你重新考慮。此外，我認為，由於諸如亂穿馬路之類的輕微違規行為而失去人權和自由的風險應該超過任何好處。
在“Nosedive”的結尾，Lacie 最終被她終生渴望獲得高分的願望所壓倒。她意識到，她渴望融入她虛偽朋友的完美生活，而這種生活是由一個社會標準構成的，這個標準永遠不會讓她真正過上充實的生活。在一天之內，她和她在生活中一直忽視和譴責的人一起被貶到了社會階梯的底部。透過喝下一瓶紅色威士忌，這讓她最終擺脫了錯誤的認知，*她終於能夠再次生活，並看到人們的真實面貌，而不是他們被分配的得分。我請中國公民做同樣的事情：拿起紅色的酒瓶，看穿他們之間可能實施的任何社會信用體系。從長遠來看，你的孩子、你的鄰居和你自己都會感謝你。我們不僅僅是一個數字。
註釋
*這是對 1999 年科幻電影《駭客帝國》中一個場景的引用，在這個場景中，主角可以選擇選擇服用紅色藥丸來了解殘酷的真相，或者服用藍色藥丸來繼續沉浸在舒適的幻覺中。
進一步學習
[edit | edit source]- Antonia Hmaidi. "'The' Social Credit System in China." (Video). 35C3. 27 December 2018. 2018 年Chaos Computer Club 大會上的一場講座，試圖對中國的社會信用體系提供比西方媒體提供的更細緻入微的視角。
- Victoria Adelmant. "Social Credit in China: Looking Beyond the 'Black Mirror' Nightmare." Center for Human Rights and Global Justice, New York University School of Law. April 20, 2021. 對中國社會信用體系的人權影響的討論。包含許多額外的資源和對相關組織的解釋。
- Eunsun Cho. "The Social Credit System: Not Just Another Chinese Idiosyncrasy." Journal of Public and International Affairs. 1 May 2020.
討論問題
[edit | edit source]- 在美國有哪些形式的財務、工作績效和社會信用評分？它們與中國的制度有何相似之處？它們又有哪些不同？在你看來，管理我們財務和社會信用評分的機構能否轉變為類似中國的鬆散統一體系？
- 中國政府試圖透過其信用獎勵和懲罰體系獲得什麼樣的公民？將每個公民的評分公開、可訪問和可顯示的理由是什麼？在學校部署監控技術的理由是什麼？
- 操縱人口的社會行為可能會產生哪些意想不到的後果？
參考文獻
[edit | edit source]- ↑ “Black Mirror Featurette: ‘Nosedive’.” YouTube. Oct 12, 2016. https://www.youtube.com/watch?v=5HQ4Dh0noIk
- ↑ Lee, Amanda. “What is China’s social credit system and why is it controversial?” South China Morning Post, 9 August 2020
- ↑ Cheng, Evelyn. “China says it now has nearly 1 billion internet users.” CNBC, 4 Feb 2021.
- ↑ a b Anti, Michael. “Behind the Great Firewall of China.” TED.com. June 2012.
- ↑ Liu, Gary. “The rapid growth of the Chinese internet-- and where it's headed.” Ted.com. April 2018.
- ↑ a b Wikipedia contributors. "Social Credit System." Wikipedia, The Free Encyclopedia. Wikipedia, The Free Encyclopedia, 11 May. 2021. Web. 27 May. 2021.
- ↑ Donnelly, Drew. “An Introduction to the China Social Credit System.” New Horizons, 2021.
- ↑ a b Kobie, Nicole. “The complicated truth about China's social credit system.” Wired, 6 July 2019.
- ↑ a b Robertson, Megan, et al. “China’s Social Credit System: Speculation vs. Reality.” The Diplomat, 30 March 2021.
- ↑ Kostka, Genia. “China’s social credit systems and public opinion: Explaining high levels of approval.” New Media & Society, 21.7 2019: 1565-1593. https://journals.sagepub.com/doi/10.1177/1461444819826402
- ↑ Tai, Crystal. “How China Is Using Artificial Intelligence in Classrooms." The World Street Journal 1 October 2019. https://www.youtube.com/watch?v=JMLsHI8aV0g
- ↑ Buckley, Chris, and Paul Mozur. “How China Uses High-Tech Surveillance to Subdue Minorities.” The New York Times 22 May 2019.