Lentis/內容稽核
本章深入探討了內容稽核的方式。內容稽核是指對使用者生成的內容（尤其是帖子）進行監控和應用預定的指南，以確定內容是否允許釋出的實踐。[1]
內容稽核可以用於維護乾淨的網路環境。像谷歌和必應這樣的網路搜尋引擎會隱式地進行內容稽核。包含非法內容的網站，如奴隸拍賣、走私和毒品交易，會從公眾視野中刪除，從而導致“暗網”一詞的出現。暗網.
《通訊規範法》第230條規定了某些內容稽核案例的合法性。例如，它規定“互動式計算機服務的提供者或使用者不得被視為由其他資訊內容提供者提供的資訊的出版者或發言人”。這意味著社交媒體平臺或網站的託管方不會對平臺或網站使用者釋出的內容負法律責任。它規定“互動式計算機服務的提供者或使用者不得因…出於善意自願採取的任何行動而承擔責任，以限制對材料的訪問或可用性，該提供者或使用者認為該材料是淫穢的、下流的、猥褻的、骯髒的、過度暴力的、騷擾的或其他令人反感的，無論此類材料是否受到憲法保護。”[2] 這意味著線上主機不會對釋出到其平臺上的非法或不想要的內容負法律責任，也不會因刪除此類內容而受到起訴。
如果平臺編輯或整理非法內容，則不受第230條保護。聯邦刑事犯罪、智慧財產權侵權行為和電子通訊隱私法侵權行為也不受第230條保護。
有許多技術用於稽核顯式內容。一個例子是語言過濾。在許多聊天室中，通常有一個名為“聊天過濾器”的功能，它用星號或其他符號替換社會上令人反感的詞語。雖然它可能無法完全阻止言語虐待，但它試圖維護一個乾淨的環境。另一個例子是影片審查。除了年齡限制外，影片產品通常會被修改以從觀眾中刪除某些內容。例如，在日本動漫中，如果劇集包含血腥或裸露場景，這些場景將被馬賽克或點覆蓋。
有關機密軍事機密的資訊禁止公開。如果一張美國軍事基地的照片公開，聯邦調查局會迅速將其刪除並逮捕責任人。滑稽的帖子可能被豁免，但仍會受到監視。例如，有傳言稱51區包含外星技術。然而，從未有任何證據。對敏感技術的詳細討論，如量子加密、基因靶向病毒和核反應控制，也正在受到監控。
立法者擔心 TikTok 上缺乏監管，因為該平臺對快速傳播的虛假資訊幾乎沒有採取措施，尤其是在年輕使用者中。根據 TikTok 的隱私協議，該應用程式會收集“使用者建立帳戶並使用平臺時提供的資訊”以及“使用者從第三方社交網路提供者分享給 TikTok 的資訊，以及有關使用者使用平臺的技術和行為資訊”。[3] 中國公司的缺乏監管和廣泛的資料收集引起了美國國家安全方面的擔憂。[4]
內容稽核可以由政府監管。可以透過控制公眾接收的資訊以及自我效能活動來引導公眾輿論。
在 2017 年的《騎士第一修正案研究所訴特朗普》案中，法官娜奧米·賴斯·布赫瓦爾德裁定，唐納德·特朗普總統從他的個人帳戶 @realDonaldTrump 中遮蔽持有相反政治觀點的 Twitter 帳戶是違憲的。這一決定在 2018 年政府上訴後得到維持。哥倫比亞大學騎士第一修正案研究所於 2020 年針對同一問題的另一項訴訟正在美國最高法院進行，目前仍在審理中。
事前稽核是那些最重視自身形象的公司採用的內容稽核方式。釋出的每段內容都會經過稽核和審查，以確保不會以任何方式損害其品牌或引發任何法律問題。[5] 雖然事前稽核不適用於任何資料流入量大的平臺（例如社交媒體平臺），但它對公司部落格或類似網站可能會有所幫助。
事後稽核是指一種內容稽核方式，其中內容在提交到平臺後，可以隨時被審查並撤下，如果發現該帖子違反了網站政策。[5] 事後稽核專門是一種適用於目前使用的大多數平臺的全面政策。大多數公司始終保留從其平臺刪除內容的權利，如果他們發現該內容違反了其任何條款或條件。
反應式稽核
[edit | edit source]反應式稽核是一種稽核方式，其中平臺依賴其社群來審查和篩選帖子。檢視內容的個人負責確定內容是否合適。如果內容不合適，他們有責任舉報它，以便版主可以檢視並根據需要刪除。[5] 這種稽核方式被用於大多數社交媒體網站，因為它允許網站利用其龐大的社群來解決內容湧入的問題。
分散式稽核
[edit | edit source]分散式稽核類似於反應式稽核，因為它將內容稽核委託給社群，但使用者不是僅舉報不合適的內容，而是對提交的每一項內容進行投票。[5] 這通常會導致群體思維，在這種思維中，大眾能夠確定哪種形式的內容是不可接受的。
自動化稽核
[edit | edit source]自動化稽核是一種專門依賴自動化工具來過濾內容的稽核方式。[5] 這可能包括詞語過濾器，使用文字/詞語分析的演算法等等。許多人認為，這種稽核方式的擴充套件最終將成為內容稽核的未來。大多數網站目前在其內容稽核工具套件中使用某種形式的自動化稽核，儘管在某些情況下，該領域尚未發展到足以獨立適用的程度。
現狀與社交媒體
[edit | edit source]關於現狀，有幾家大型社交媒體公司在規模和範圍上相似，但它們採用不同的內容稽核方式來稽核其龐大的社群。我們將重點介紹 Facebook/Instagram、Twitter、Reddit、YouTube、Twitch、TikTok 和 Snapchat。
Facebook 和 Instagram
[edit | edit source]Facebook 和 Instagram 屬於同一家母公司，並且擁有類似的稽核政策。它們主要採用一種反應式稽核方式，社群負責標記和舉報任何明確內容。不僅如此，該公司還使用大量自動化稽核，不是為了刪除內容，而是為了檢測重複帳戶。[6] Facebook 也是投資內容稽核最多的公司，因此它們在客觀上是刪除明確內容最成功的平臺。然而，負責清理帖子的稽核員最終會受到傷害。每天，他們只是去上班，就會接觸到“人類的惡”。許多人最終會患上 PTSD 或抑鬱症，因此無法繼續工作。[7] 根據 Facebook Inc 的 2019 年第三季度透明度報告，Instagram 刪除了 200 萬個帖子，而 Facebook 刪除了 3500 萬個帖子。[8]
由於 2020 年的 COVID-19 大流行，Facebook 和 Instagram 都嚴重減輕了使用者申訴流程，轉而完全採用自動化稽核。這導致 Instagram 的使用者申訴（Instagram 在使用者要求下重新上傳已刪除的照片）從 2020 年第一季度的 8100 次下降到 2020 年第二季度的零次。 [9] 儘管尚不清楚向完全自動化系統的轉變是暫時的還是永久的，但這兩個平臺的政策都變得更加嚴格。關於政治的錯誤資訊通常也在這兩個平臺上被允許，儘管它們確實禁止某些廣泛的錯誤資訊活動，並且將可能具有誤導性的帖子標記為這種方式。 [9]
從 2018 年開始，Twitter 由於該網站上政治的盛行，逐漸成為內容稽核的焦點。該公司主要使用自動化稽核，但更側重於內容的發現和放大，而不是內容的刪除。 [10] 最近，Twitter 在標記和事實核查誤導性帖子方面變得更加激進，並且毫不猶豫地標記包括美國總統唐納德·特朗普在內的有影響力人物發表的帖子。 [11] Twitter 還主動將潛在的內容違規行為提交給人工稽核，而不是等待使用者舉報。這是幫助管理有毒內容和騷擾以及暫停與陰謀集團相關的帳戶的一部分。
Reddit 使用一種名為“分層稽核”的內容稽核方式。從本質上講，這是分散式稽核和反應式稽核的結合。使用者負責對帖子“點贊”和“點踩”，充當一種稽核員，他們為其他使用者提供高質量的資訊。雖然這通常被視為管理內容的好方法，但它也會導致一種“集體思維”的心態，在這種心態下，Reddit 上的每個人都會看到大多數人策劃的內容。使用者還可以舉報帖子，以便“子版塊”版主手動稽核並根據需要升級/刪除。[12] 除此之外，Reddit 還使用了一些自動化稽核工具，包括“AutoModerator”，這是一個幫助自動化“子版塊”版主必須執行的許多手動任務的機器人。[13]
Reddit 以前是網際網路上為數不多的允許“真正”言論自由的地方之一。然而，最近，他們開始禁止代表仇恨群體和錯誤資訊的子版塊。這針對的是代表種族主義、同性戀恐懼症或厭女症的群體。 [14] 但在 2020 年 6 月，他們更進一步，禁止了 /r/The_Donald，一個討論和支援美國總統唐納德·特朗普的子版塊。他們還禁止了 /r/NoMask，一個反對在 COVID-19 大流行期間佩戴口罩的子版塊。 [15]
YouTube
[edit | edit source]YouTube 在所有提到的平臺中採用了最多的自動化工具，這一點是獨一無二的。它們的演算法不僅用於推薦影片，還用於內容稽核。 [16] YouTube 也是提到的唯一一家可以透過上傳內容來謀生的公司。因此，YouTube 的主要稽核方式之一是“取消變現”。[17] 對於違規賬戶，YouTube 還實施了“三振出局”制度。在第一次警告後，他們會經歷一系列逐步升級的懲罰，直到賬戶被封禁，如果情況沒有改變。[18]
Twitch
[edit | edit source]由亞馬遜 擁有的影片遊戲直播平臺 Twitch 使用分散式稽核和自動化稽核。每個頻道都有稽核員負責稽核 Twitch 的聊天功能，即時刪除不當資訊。在處理版權內容時，他們也使用自動化系統，通常會暫時封禁在直播中使用版權音訊的播客 [19]。
Twitch 最近因其非常嚴格的稽核政策而遭到該平臺上大型播客的抵制。管理版權內容的數字千年版權法案（DMCA）追溯性地禁止了在過去直播中使用版權音樂的播客，即使是在新政策實施之前。這導致一些大型播客刪除了所有過去的廣播以避免被封禁 [20]。播客即使在無意中瀏覽到不適當內容後立即點選離開，也會被封禁，即使他們沒有過錯 [21]。這種 Twitch 與其最賺錢的播客之間的脫節導致一些播客轉移到其他直播平臺。
TikTok
[edit | edit source]一個相對較新的社交媒體平臺 TikTok，由中國公司字節跳動 擁有，人們在該平臺上分享短影片。TikTok 主要採用自動化稽核，並表示其刪除的內容中不到 1% 與仇恨言論和虛假資訊有關 [22]。然而，TikTok 被指控刪除對中國敏感的內容，並壓制其認為“醜陋”的使用者在“為你推薦”頁面上的內容，以吸引更多人使用該應用程式。該公司否認了這兩項指控 [23]。
Snapchat
[edit | edit source]Snapchat 是一款社交媒體應用程式，使用者可以在該應用程式上分享會消失的照片，它主要關注後期稽核和分散式稽核。這種對以人為本的內容稽核的關注對於如此龐大的社交媒體平臺來說是獨一無二的 [24]。他們可以負擔更少的自動化系統，因為應用程式上的大多數內容在刪除之前只存在最多 24 小時。使用者之間的大多數互動都是私密的，除了他們的“發現”頁面，公司和影響者在該頁面上釋出簡短的內容。Snapchat 還對種族正義採取了強硬立場，從“發現”頁面中完全刪除了有爭議的人物，例如唐納德·特朗普 [25]。
爭議
[edit | edit source]政治
[edit | edit source]通訊規範法
[edit | edit source]共和黨和民主黨都對通訊規範法第 230 條表達了擔憂。民主黨認為第 230 條限制了對仇恨言論和非法內容的審查，廢除或修改該條將迫使科技公司消除不當內容。 [26] 共和黨認為第 230 條允許科技公司壓制保守觀點並影響公眾輿論。 [27] 2020 年 5 月，唐納德·特朗普總統釋出了一項行政命令，以結束網路審查制度，稱“美國不能允許少數線上平臺挑選美國人可以在網際網路上訪問和傳播的言論”。[28] 第 230 條尚未發生任何變化。
言論自由
[edit | edit source]社交媒體平臺使用內容稽核引發了人們對這些平臺上的言論自由影響的擔憂。這些擔憂的原因之一是缺乏關於內容稽核規則的透明度。聯合國言論自由和意見表達問題特別報告員大衛·凱伊將內容稽核規則的不透明性稱為“當今對網路言論自由的最大威脅之一”，並補充說“公司實施的規則是在沒有公眾參與的情況下制定的，並且執行起來缺乏清晰度”。[29]。使用者對應該刪除哪些內容的不同期望加劇了這些擔憂。一個例子是人們對 Facebook 決定不刪除對南希·佩洛西的影片進行篡改的反應，該影片被放慢速度，使佩洛西看起來像醉酒一樣。雖然一些人對 Facebook 不採取行動阻止虛假資訊的傳播感到沮喪，但另一些人則讚賞該公司保護平臺上的言論自由 [30]。
2016 年美國總統大選
[edit | edit source]2016 年美國總統大選引發了人們對政治內容稽核的初步討論，因為人們發現俄羅斯利用社交媒體影響了選舉結果。由俄羅斯網際網路研究機構 (IRA) 發起的虛假資訊運動強調了需要加強對使用者內容的控制。 [31]
2020 年美國總統大選
[edit | edit source]2020 年美國總統大選引發了關於內容稽核的討論，因為社交媒體網站在選舉日臨近時獲得了更大的影響力。雖然社交媒體可能增加了公民參與，尤其是在年輕人中，但錯誤資訊和虛假資訊也在傳播。由於唐納德·特朗普總統在推特上關於選舉欺詐的言論毫無根據，推特將這些帖子標記為潛在的錯誤資訊。儘管有這些標記，但錯誤資訊被瀏覽了數百萬次，模糊了事實和虛假敘事的界限。[32]另一個問題是刪除或修改內容的決策過程不透明。就像 Facebook 刪除“阻止偷竊”一樣，這是一個擁有超過 300,000 名成員的群體，用於組織針對選舉結果的抗議活動。類似的決定導致推特和 Facebook 的執行長在國會聽證會上為其內容稽核做法辯護，此前這兩個平臺都決定遏制有關民主黨總統候選人喬·拜登之子相關宣告的傳播。[33]
人工稽核
[edit | edit source]外包勞工
[edit | edit source]科技公司主要使用外包勞工進行稽核工作。這使公司能夠以犧牲工人的利益為代價在全球範圍內擴充套件其業務，這些工人獲得的報酬遠低於有薪員工。在 Cognizant，一家為 Facebook 提供內容稽核服務的亞利桑那州承包商，稽核員每小時的工資為 15 美元，遠低於 Facebook 員工的年薪中位數 240,000 美元。[7]
心理負擔
[edit | edit source]稽核員手動審查網際網路上最令人不安的內容，通常沒有適當的復原訓練和其他必要的服務來準備他們。[34]稽核員在稽核內容時也要達到很高的標準，Facebook 將稽核員決策的準確率目標設定為 95%。[7]，創造了一個混亂的環境，人員流動率很高，因為許多稽核員無法保持這種準確性。公司試圖幫助稽核員應對“健康時間”，旨在讓受創的員工休息一下。在 Cognizant，員工每天只有 9 分鐘的健康時間，並且會監控這段時間以確保員工正確使用這段時間。[7]。長期接觸令人不安的內容會使前稽核員患上類似 PTSD 的症狀。一個例子是塞萊娜·斯科拉，前 Facebook 稽核員，她在患上 PTSD 後起訴了該公司，辯稱該公司沒有為其內容稽核員提供適當的心理健康服務和監控。[35]
原因
[edit | edit source]作為內容稽核員，接觸各種形式的精神虐待內容，通常是違法和不合適的，是他們日常工作的一部分。[36]。檢視、過濾和刪除社交媒體平臺上釋出的內容是內容稽核員承擔的時間和健康的犧牲。有害內容的常見主題以（兒童）色情、虐待、自殘和各種形式的暴力形式存在。內容稽核員努力監控此類內容，並因此決定它們是否適合其他使用者。由於職位描述的複雜性，稽核員被告知他們面臨的風險，從情緒混亂到更深層次的心理影響，這些影響是由於長時間接觸或內容的嚴重性造成的。[37]。雖然大多數人可能能夠繞過情緒衝動（憤怒、悲傷、同情/移情或衝突）帶來的淺層爭議，但其他人可能會受到創傷，以至於發展障礙會導致複雜的康復。
症狀
[edit | edit source]大多數創傷性案例涉及與壓力相關的症狀。調解員的常見症狀包括創傷後應激障礙 (PTSD)、焦慮、強迫症 (OCD) 以及各種形式的反覆睡眠狀況，例如失眠和噩夢障礙。雖然大多數情況下是由於不當內容的暴露造成的，但一些案例被認為是由於職業保密導致的壓力累積。案件長期持續的一個重要原因是患者不願尋求幫助，尤其是透過治療，以及職業帶來的保密協議。[38]。在評估後，患者被發現描述自己一直在被他們被要求觀看的內容困擾。進一步表明，單獨的心理治療和不必要的藥物劑量不足以提供治療內容調節相關創傷的必要“治癒”方法。
治療
[edit | edit source]目前針對內容稽核引起的疾病的治療方法包括各種形式的心理治療，例如認知行為療法 (CBT) 和眼動脫敏與再加工 (EMDR)。CBT 已成為最常見的心理治療方法之一，因為研究表明，在治療 PTSD 方面，CBT 比支援性療法更有效。[39]。EMDR 是一種更罕見的心理治療，患者在時間間隔內被展示令人不安的材料，同時讓他們專注於外部刺激，例如聽覺刺激。[40]。一些研究認為，EMDR 的效果有限，並且眼球運動可能不是從心理疾病中恢復所必需的。[41]。另一方面，美國退伍軍人事務部認為，CBT 和 EMDR 是治療 PTSD 最有效的方法。[42]。另一種治療方法是藥物治療，例如選擇性 serotonin 再攝取抑制劑 (SSRI)，它能阻斷 serotonin 的神經遞質再攝取，從而提高患有抑鬱症和 PTSD 的個體 serotonin 的水平。[43]。使用 SSRI 的負面症狀包括激動、焦慮、消化不良和頭暈。
隨著研究的發展，越來越多的有希望的治療方法被提出，例如 MDMA 輔助療法、氯胺酮輸注和 SDG 注射。[44]。由於資源限制，這些治療方法仍然有限，因此需要更多關於有效性和副作用的資訊，才能將這些療法確立為新的治療方法。
案例研究：Meta
[edit | edit source]自 2016 年美國總統大選以來，Meta（一家科技和社交媒體公司）一直承受著改善內容稽核的壓力，原因是其平臺（如 Instagram 和 Facebook）上流傳著大量“假新聞”。[45]。隨之而來的是 Meta 內容稽核的增加，進而加劇了 Meta 員工和外包員工的心理負擔。2018 年，前 Facebook 員工塞萊娜·斯科拉在因稽核令人不安的內容而患上 PTSD 後起訴了 Meta。Meta 在法庭上以總計 5200 萬美元的賠償金與現任和前任內容稽核員達成和解。[46]。由於這項和解協議，Meta 同意增加和改善治療次數，並推出新的內容稽核工具，例如音訊靜音和黑白螢幕。除了這些新工具之外，Meta 還同意告知員工如何根據工作場所標準的幾項變更報告違規行為。現在，Meta 要求其稽核員進行初始情緒復原篩查，宣傳其提供的支援服務以提高員工意識，並提供安全的工作場所環境，鼓勵舉報供應商違反 Meta 工作場所標準的行為。即使在達成這些和解協議之後，Meta 內容稽核員仍然認為該公司缺乏足夠的心理健康支援和資源，這就是 Meta 目前正承受壓力的原因，因為它在 2022 年捲入了另一場訴訟。[47]
案例研究：TikTok
[edit | edit source]繼 2020 年 Meta 達成 5200 萬美元的和解協議後，社交媒體公司 TikTok 也因其內容稽核政策中類似的問題而面臨壓力。2022 年 3 月，曾擔任 TikTok 內容稽核員的 Ashley Velez 和 Reece Young 對 TikTok 及其母公司字節跳動提起集體訴訟。Velez 和 Young 指控他們每天都暴露在色情和令人反感的內容中，因此遭受了巨大的壓力和心理傷害。他們還聲稱，TikTok 透過實施嚴苛的生產力標準和指標加劇了這些問題，並且在為稽核員提供應對工作負擔的適當工具方面存在疏忽。在訴訟中，Velez 和 Young 尋求經濟賠償，以及設立一個醫療監測基金，以幫助診斷和治療稽核員的心理健康狀況[48]。除了對稽核員的心理影響外，TikTok 還受到其他批評。例如，TikTok 稽核員培訓流程的有效性也受到質疑。在接受《福布斯》採訪時，幾名前稽核員表示，在培訓期間，他們被允許訪問一個名為“每日必讀”（DRR）的共享電子表格，其中包含數百張裸體兒童的圖片。他們認為，將該檔案提供給 TikTok 和其承包公司 Teleperformance 的許多員工令人擔憂，並且敏感資料被嚴重誤用。接受採訪的稽核員表示，在培訓中使用真實案例是不合適的，應該用其他教學工具代替[49]。TikTok 和 Teleperformance 均拒絕就 DRR 的存在發表評論，但截至 2022 年 7 月離職的稽核員聲稱該檔案仍在使用。鑑於已確定反覆接觸圖形影像會導致嚴重的心理創傷，因此 TikTok 和其他社交媒體公司必須為他們的內容稽核員提供更好的支援，這些稽核員長時間工作以確保普通使用者的體驗不受汙染。
案例研究：香港
[edit | edit source]最初，2019 年香港抗議活動只是市民和平遊行反對引渡法案。此後，抗議活動變得暴力。抗議活動在不同地方的報道和解讀存在巨大差異，導致人們對事件的反應不同。內容稽核已被證實在此事件中發揮重要作用。
在中國大陸，抗議活動被報道為“叛亂”和“有陰謀的暴動”[50][51]，而在美國，ABC 將其稱為“支援民主”的抗議活動[52]，以及為自由而戰。CNN 報道稱，一些 NBA 球迷也支援抗議活動[53]，這看起來像是一場社會規範運動。有關於香港警察濫用職權的報道[54]。美國一些人呼籲採取行動幫助抗議者[55]。
然而，人們發現，某些觀點被隱藏在美國公眾面前。據報道，Facebook 和 Twitter 透過內容稽核操縱了報道，並刪除了近千個中國賬戶[56]。所有被刪除的中國賬戶只是發表了反抗議的意見，但這些網站聲稱這些賬戶與中國政府有關聯[57]。儘管內容稽核並非一些美國人強烈支援抗議活動的主要原因，但它無疑影響了公眾輿論。
自動化稽核與人工稽核
[edit | edit source]雖然公司會公佈他們的基本稽核原則，但很少討論自動化稽核和人工稽核之間的平衡。演算法決策在很大程度上受商業利益驅動，造成透明度和問責制問題。這些問題是缺乏全球標準的一個症狀，而全球標準適用於所有可能發生使用者之間政治討論的公司。有些人主張進行公開的政治辯論，以幫助確定線上可接受政治交流的規範[58]。
未來
[edit | edit source]內容稽核的未來將更加重視使用人工智慧和機器學習來自動化稽核流程。人工智慧神經網路和深度學習技術的應用已經幫助自動化語音識別、影像分類和自然語言處理等任務，減輕了人工稽核員的負擔[59]。這些人工智慧應用可以比人工稽核員做出更準確的稽核決策，但它們的有效性取決於其培訓的廣泛性。目前，用於訓練人工智慧模型的內容示例不足[59]。缺乏資料會導致人工智慧模型在遇到與訓練中不同的內容時容易混淆。當前的人工智慧解決方案也無法理解可能對確定是否刪除帖子至關重要的上下文和意圖。這可以在 Facebook 自動工具檢測裸體和仇恨言論方面看到，其準確率分別為 96% 和 38%[60]。由於人工智慧存在這些侷限性，自動化稽核和人工稽核的混合模式很可能在一段時間內成為常態。
如果《通訊法》第 230 條被廢除，科技平臺將對使用者釋出的內容負責，因此需要審查任何可能導致法律問題的內容。這將需要密集的稽核技術，並可能導致許多網站完全擺脫使用者內容。
心理影響：內容稽核的改進
[edit | edit source]隨著社交媒體不斷發展成為全球媒體的重要組成部分，稽核員的心理影響成為人們日益關注的話題，隨之而來的是不當內容曝光的增加。作為內容稽核員，越來越多地觀看令人不安的內容導致越來越多的員工患上 PTSD 和其他心理疾病。作為內容稽核員，越來越多地觀看令人不安的內容導致越來越多的員工患上 PTSD 和其他心理疾病。由於治療選擇有限，只能減輕症狀，而且僱主缺乏心理健康資源，內容稽核員患上這些疾病的風險很高。Meta 和 TikTok 等社交媒體公司因其對內容稽核員的糟糕工作條件而面臨壓力和訴訟。這些和解協議促進了改善心理健康資源的進展，但這僅僅是朝著正確方向邁出的第一步。
這些問題突出表明，迫切需要採取措施找到解決方案。為解決此問題而提出的可能工具包括提高對與該職業相關的嚴重風險和影響的認識（透過改進保密協議和招聘篩選），或者減少強加給稽核員的繁重工作量[46]。在後一種選擇方面，可以透過實施更有效的檢測演算法來解決問題，這些演算法可以標記不適當的內容。透過利用改進的內容過濾演算法，可以減少稽核員需要過濾的內容的集中度和負載。理想情況下，由於媒體中的某些指標（如標籤、文字、音訊和影像），系統軟體會過濾掉嚴重和創傷性的內容，讓稽核員處理由其他使用者標記為輕微不當或有爭議程度的內容，這些內容需要人工管理。
結論
[edit | edit source]從內容稽核案例中可以吸取一些普遍適用的經驗教訓。其中一個教訓是透明度如何影響使用者信任。稽核指南和執行缺乏透明度令使用者非常沮喪，導致使用者對帖子被刪除的原因做出自己的結論，例如偏見或認為是誤報。透明度將緩解這個問題，這就是為什麼許多人呼籲科技公司採用 聖克拉拉原則 等指南，以使稽核過程更加透明。其他人也可以從科技公司使用合同工中吸取教訓。對於像內容稽核這樣危險的工作，低工資和福利不足給那些因其稽核員工作而患上心理疾病的員工帶來了沉重的經濟負擔。
章節擴充套件
[edit | edit source]案例書章節的擴充套件可以更詳細地探討當今使用的人工智慧和機器學習技術、稽核過程中的偏見現象以及假新聞現象將如何改變稽核過程。
參考文獻
[edit | edit source]- ↑ 內容稽核[1]
- ↑ [2] 《通訊規範法》第230條
- ↑ [3] TikTok隱私政策
- ↑ [4] 拆解TikTok，移動應用和國家安全風險
- ↑ a b c d e 你需要了解的六種內容稽核型別[5]
- ↑ Facebook如何稽核其極端內容[6]
- ↑ a b c d 美國Facebook稽核員的秘密生活[7]
- ↑ Facebook首次釋出Instagram內容稽核資料[8]
- ↑ a b Facebook最新透明度報告揭示了自動內容稽核的弊端[9]
- ↑ Twitter分享內容稽核計劃，突出與Facebook的對比[10]
- ↑ 關於矽谷擁抱內容稽核的複雜爭論[11]
- ↑ Reddit安全報告——2019年10月30日[12]
- ↑ 完整的AutoModerator文件[13]
- ↑ Reddit終於正面臨其種族主義歷史[14]
- ↑ Reddit在重大規則擴充套件中停用了r/The_Donald和r/ChapoTrapHouse[15]
- ↑ YouTube不知道自己的界限在哪裡[16]
- ↑ 黃色美元：關於去貨幣化和YouTube與創作者之間戰爭的全面歷史[17]
- ↑ 社群準則打擊基礎[18]
- ↑ 大規模的內容稽核，尤其是當您隱藏所有規則時，它無法正常工作[19]
- ↑ Twitch對最近的DMCA下架事件表示歉意，但還沒有真正的解決方案[20]
- ↑ Twitch持續的稽核鬥爭突出了平臺的缺陷[21]
- ↑ TikTok在全球壓力越來越大的情況下公佈內容稽核資料[22]
- ↑ 隱形審查：TikTok指示稽核員壓制“醜陋”和貧窮的人的帖子以吸引新使用者[23]
- ↑ Snapchat在應用程式重新設計中強調人工內容稽核[24]
- ↑ 內容稽核問題正在總統大選競選中佔據中心位置[25]
- ↑ [26] 保護美國人免受危險演算法法案
- ↑ [27] 霍利參議員提出立法，修改大型科技公司第230條豁免權
- ↑ [28] 關於防止網路審查的行政命令
- ↑ 聯合國專家：內容稽核不應踐踏言論自由[29]
- ↑ 內容稽核和偏見這一棘手的問題[30]
- ↑ BBC. (2018年12月17日). 俄羅斯“干預了美國大選所有大型社交媒體”. BBC新聞. https://www.bbc.com/news/technology-46590890.
- ↑ Hinckle, M. 和 Moore, H. (2020年11月3日). 社交媒體對2020年總統大選的影響：好的一面，壞的一面和醜陋的一面. https://research.umd.edu/news/news_story.php?id=13541.
- ↑ Bose, N. 和 Bartz, D. (2020年11月17日). “比傳統媒體更有力量”：Facebook和Twitter政策受到攻擊. 路透社. https://www.reuters.com/article/usa-tech-senate/more-power-than-traditional-media-facebook-twitter-policies-attacked-idUSKBN27X186.
- ↑ 低薪和負擔過重：Facebook稽核員的生活[31]
- ↑ 內容稽核員起訴Facebook，稱工作給她帶來了創傷後應激障礙[32]
- ↑ Brown, R. (2020年5月11日). 什麼是社交媒體內容稽核以及稽核公司如何使用各種技術來稽核內容？. 成為人類. https://becominghuman.ai/what-is-social-media-content-moderation-and-how-moderation-companies-use-various-techniques-to-a0e38bb81162
- ↑ Crossfield, J. (無日期). 稽核社交媒體陰暗面的隱藏後果. 內容營銷研究院. https://contentmarketinginstitute.com/cco-digital/july-2019/social-media-moderators-stress/
- ↑ Benjelloun, Roukaya 和 Otheman, Yassine. (2020). 社交媒體內容稽核員的心理困擾：案例報告. 精神病學與心理健康檔案, 4. 073-075. 10.29328/journal.apmh.1001024
- ↑ Mendes, D. D.、Mello, M. F.、Ventura, P.、De Medeiros Passarela, C. 和 De Jesus Mari, J. (2008). 關於認知行為療法治療創傷後應激障礙有效性的系統綜述. 國際精神病學與醫學雜誌, 38(3), 241–259. https://doi.org/10.2190/PM.38.3.b
- ↑ EMDR國際協會. (無日期). 關於EMDR療法. https://www.emdria.org/about-emdr-therapy/
- ↑ Lohr, J. M.、Tolin, D. F. 和 Lilienfeld, S. O. (1998). 眼動脫敏與再加工療法的有效性：對行為療法的啟示. 行為療法, 29(1).123-256. https://doi.org/10.1016/S0005-7894(98)80035-X
- ↑ 美國退伍軍人事務部. (無日期). 創傷後應激障礙：國家創傷後應激障礙中心. https://www.ptsd.va.gov/professional/treat/txessentials/overview_therapy.asp
- ↑ Chu, A. 和 Wadhwa R. (2022年5月8日). 選擇性血清素再攝取抑制劑. 國家醫學圖書館. https://www.ncbi.nlm.nih.gov/books/NBK554406/
- ↑ Jain, S. (2021年7月1日). 創傷後應激障礙治療的最新進展. 心理學今日. https://www.psychologytoday.com/us/blog/the-aftermath-trauma/202107/the-latest-in-ptsd-treatment
- ↑ Solon, O. (2016年11月10日). Facebook的失敗：假新聞和兩極分化的政治讓特朗普當選了嗎？. 衛報. https://www.theguardian.com/technology/2016/nov/10/facebook-fake-news-election-conspiracy-theories
- ↑ a b Newton, C. (2020年5月12日). Facebook將支付5200萬美元，與在工作中患上創傷後應激障礙的稽核員達成和解. Verge. https://www.theverge.com/2020/5/12/21255870/facebook-content-moderator-settlement-scola-ptsd-mental-health
- ↑ Wong, Q. (2022 年 5 月 10 日). Facebook 母公司 Meta 被肯亞前內容稽核員起訴。CNET。 https://www.cnet.com/news/social-media/facebook-parent-meta-sued-in-kenya-by-former-content-moderator/
- ↑ Allyn, B. (2022 年 3 月 24 日). 前 TikTok 稽核員因“極其令人不安”的影片帶來的情感負擔而起訴。NPR。 https://www.npr.org/2022/03/24/1088343332/tiktok-lawsuit-content-moderators
- ↑ Levine, A. S. (2022 年 8 月 4 日). TikTok 稽核員正在使用兒童性虐待的圖形影像進行培訓。福布斯。 https://www.forbes.com/sites/alexandralevine/2022/08/04/tiktok-is-storing-uncensored-images-of-child-sexual-abuse-and-using-them-to-train-moderators/?sh=72c19eee5acb
- ↑ 美國對香港抗議的真相[33]
- ↑ 香港對叛亂的加強已經到來[34]
- ↑ 香港民主抗議活動持續進行[35]
- ↑ NBA 球迷在洛杉磯舉行支援香港的 T 恤贈送活動，抗議中國[36]
- ↑ 香港警察鎮壓學生抗議者[37]
- ↑ 保護香港人民的權利[38]
- ↑ 在香港抗議期間，Twitter 和 Facebook 禁止中國賬戶[39]
- ↑ 香港抗議活動：Twitter 和 Facebook 刪除中國賬戶[40]
- ↑ Reich, R. & Schaake, M. (2020). 2020 年大選：內容稽核和問責制。加州斯坦福：斯坦福大學。
- ↑ a b 需要人工幫助：為什麼人工智慧在內容稽核方面很糟糕[41]
- ↑ 不可能的任務：深入 Facebook 稽核 20 億使用者的鬥爭[42]