專業/索爾勞格·奧古斯特多蒂爾：社交媒體上的言論自由與濫用

2012 年 12 月，一位名叫索爾勞格·奧古斯特多蒂爾的冰島女性偶然發現了名為“男人比女人強”（“Karlar eru betri en konur”）的 Facebook 頁面，在與她形容為“巨魔”的使用者爭論後，她很快就在該頁面上看到了自己的臉。她的個人資料照片經過篡改，看起來像是被打了一樣，上面貼著“女人就像草，需要定期被毆打/修剪”（“Konur eru eins og gras, það þarf að slá þær reglulega”）的字樣。 圖片下方寫著“每個男人的道德義務”（“Siðferðisleg skylda hvers karlmanns”）。作為世界上最大的社交網路，Facebook 在關於社交媒體在當今資訊傳播方式中所起作用的持續辯論中佔據著爭議性地位。

背景

頁面

該公開 Facebook 群組包含大量仇恨言論和厭女症言論，以及宣傳對女性優越感和暴力的圖片。據奧古斯特多蒂爾說，其中一張圖片“是一名年輕女子赤身裸體，被鎖鏈綁在管道或烤箱上，看起來像一個混凝土地下室，渾身青一塊紫一塊，血跡斑斑。她用一種可怕的破碎的目光看著拍她照片的人，蜷縮成一團，赤身裸體。”該頁面的“關於”部分詳細介紹了他們的理念，聲稱女性“愚蠢，地位低下”，而且“從未發明或發現過任何東西，除了原罪和三明治。”這在描述中繼續，聲稱科學證明女性的大腦更小，因此應該被用作性玩具。

許多人對這些內容發表評論，而且攻擊者經常以典型的巨魔方式進行互動。索爾勞格與他們互動，並用幽默來表達自己的觀點，交換表情包，試圖喚起他們的良知。作為報復，2012 年 12 月 28 日，巨魔們盜用了索爾勞格的個人資料照片，並進行了篡改，使其看起來像是被打了一樣，黑眼圈，鼻青臉腫，下面用冰島語寫著：“女人就像草，需要定期被修理”。索爾勞格立即向 FB 報告了這張圖片，還有許多其他人也進行了報告，但 FB 稽核員拒絕了所有報告，稱篡改後的個人資料圖片沒有違反 FB 的服務條款。

報告事件

事件發生後，奧古斯特多蒂爾向 Facebook 報告了這張圖片，將其標記為“圖形內容”。幾個小時後，她收到通知稱該圖片不符合刪除條件。在 24 小時內多次使用“版權材料”、“騷擾”和“圖形內容”作為刪除理由報告該圖片後，奧古斯特多蒂爾繼續收到相同的回覆，稱該圖片沒有違反 Facebook 服務條款 (ToS)。她聲稱至少知道有 30 多人向 Facebook 報告了該網站，併發布了幾張截圖，證實 Facebook 拒絕刪除該圖片。

起初，奧古斯特多蒂爾向冰島警方報告了此事，並提供了來自對頁面背後的青少年男性攻擊者進行人肉搜尋的資訊。她決定不提出指控，但在收到攻擊者心理健康狀況的資訊後，將此事報告給了冰島兒童保護服務機構，因為她認為 Facebook 是違反了其服務條款中向終端使用者（如她自己）所作承諾的罪魁禍首。

Facebook 的回應

“我們非常重視我們的權利與責任宣告，並迅速採取行動刪除違反我們政策的舉報內容。一般來說，即使是令人厭惡和令人反感的笑話嘗試，也不會違反我們的政策。但是，如果出現真正的威脅或仇恨言論，我們將刪除它們。我們鼓勵人們使用網站上的舉報連結，舉報任何他們認為違反我們政策的內容。”

Facebook 的稽核團隊面臨著一個問題，即如何判斷某件事是否具有冒犯性和不當性。 他們的第一反應是支援言論自由。有些東西可能會冒犯某些人，但對另一些人來說卻很有趣。Facebook 最初認為，決定什麼是冒犯性或幽默性不是他們的責任。一位代表告訴英國廣播公司，“必須指出，一個人認為冒犯的東西，另一個人可能認為有趣——就像講一個粗俗的笑話不會讓你被趕出你當地的酒吧一樣，它也不會讓你被趕出 Facebook。”

在 Wired 發表了一篇關於此問題的文章後， Facebook 的一位發言人改變了他們對宣傳對女性暴力的圖片的立場，稱之前被認為對該社交網站可以接受的一張圖片“應該在被舉報給我們時就刪除，我們對這次錯誤道歉。”

然而，奧古斯特多蒂爾自己沒有收到 Facebook 關於工作人員反覆拒絕刪除明顯是她個人資料圖片的篡改版本的圖片的任何個人回覆，她透過 Facebook 的報告系統不斷收到的資訊是她要求被拒絕，因此她繼續公開要求答案。

她給 Facebook 寫了一封公開信，並出現在丹麥新聞上，在歐洲和南美播出，要求 Facebook 回答為什麼工作人員沒有刪除違反該網站服務條款中規定的多個條件的圖片。此時，全球媒體都在報道此事，而值得注意的是，美國媒體從未報道過此事。

兩週後，奧古斯特多蒂爾終於收到了來自 Facebook 斯堪的納維亞地區的聯絡方式，並設法從他們的代表那裡獲得了個人道歉，儘管她沒有得到有關公司內部實際發生了什麼或 Facebook 使用哪些程式來確定什麼違反其政策的解釋。

使用者生成內容的稽核難題

許多網站，包括 Facebook，都致力於為使用者提供最佳環境，這樣人們就會不斷回到該網站。他們希望訪客感到安全，不會接觸到不當內容。2017 年 5 月 3 日，Facebook 宣佈了一項新計劃，將在其運營團隊中增加 3000 名人員，以更快速地篩選有害影片和其他帖子。馬克·扎克伯格表示，這將是現有 4500 名人員的補充。目前尚不清楚這些人員將是全職僱員還是承包商。

如何監控內容

Facebook 的內容稽核工作主要由近期大學畢業生承擔。這些員工逐條審查不恰當和令人不安的帖子。稽核員負責解讀 Facebook 的政策並將其應用於網站上分享的內容。這些政策在使用者建立賬戶時會提供給每個使用者，並始終可以透過 Facebook 的社群標準頁面獲得。在欺凌或騷擾的情況下，政策支援移除“識別和羞辱私人個人的頁面”、“經過修改以貶低私人個人的圖片”、“釋出以羞辱受害者為目的的肢體欺凌照片或影片”、“分享個人資訊以勒索或騷擾他人”以及“反覆向他人傳送不必要的交友請求或訊息”。類似的規定適用於刑事犯罪、性暴力等。稽核員的任務是解讀帖子並將它們歸類為合理或限制的類別。但由於一切都需要解釋，因此並不總是能為使用者帶來成功的結果。

稽核員的心理健康

內容稽核的另一個嚴重問題是稽核員所經歷的心理健康影響。許多稽核員經歷類似於創傷後應激障礙 (PTSD) 患者的症狀。大多數員工在入職 3 到 6 個月內就會辭職。Facebook 在整治可疑內容方面的努力所面臨的問題是，技術不足。人工智慧尚未準備好或無法勝任這項任務，因此 Facebook 仍在努力尋找解決方案。雖然已經開發了一些掃描軟體，但這些技術還無法滿足 Facebook 大規模使用的需求。Guardware 生產了一種可以掃描不當影像的快閃記憶體驅動器，但據報道出現了大量誤報。擁有監控技術還可以幫助 Facebook 滿足其對內容稽核員日益增長的需求，避免僱傭 3,000 多名員工。

法律問題

服務接受使用者生成內容的能力引發了許多法律問題：根據當地法律，這些服務的運營商可能要對使用者的行為負責。在美國，通訊規範法案的“第 230 條”豁免規定，“互動式計算機服務的提供者或運營商不應被視為另一資訊內容提供者的資訊釋出者或發言人”。這實際上為託管使用者生成內容的網站提供了免責，即使這些內容具有誹謗性、欺騙性或其他有害性，即使運營商知道第三方內容有害並拒絕將其刪除。對這一普遍規則的例外情況是，如果網站承諾刪除內容但隨後未能做到。Facebook 已經在這項例外規定下受到審查。

類似案例

Facebook 在其整個生命週期中一直在進行調整，從使用者介面到新增/刪除功能以及政策更改。一些使用者頁面、公共頁面和群組的使用者生成內容因宣揚或關注有爭議且經常具有分裂性的主題而受到批評。

Facebook 直播上的自殺事件

2017 年 4 月 26 日，一名 49 歲的阿拉巴馬州男子在 Facebook 上直播了自己自殺的畫面，因為他對分手感到心煩意亂。來自羅伯茨代爾的詹姆斯·M·傑弗裡在直播過程中突然拿起手槍朝自己的頭部開了一槍。警長辦公室表示，在被 Facebook 在兩年後最終移除之前，傑弗裡的自殺事件被觀看了超過 1,000 次。傑弗裡是最新利用 Facebook 直播功能拍攝自殺影片的人。一名泰國男子拍攝了兩段影片，在 Facebook 上釋出了自己殺害自己 11 個月大的女兒的畫面，之後自殺。

羅伯特·戈德溫被槍擊事件

Facebook 直播

2017 年 4 月 16 日，74 歲的羅伯特·戈德溫·斯尼奧在俄亥俄州克利夫蘭市格倫維爾社群的人行道上行走時被槍殺。嫌疑人史蒂夫·斯蒂芬斯在 Facebook 賬戶上釋出了一段手機影片，導致許多媒體在追捕期間和之後都稱斯蒂芬斯為“Facebook 殺手”。戈德溫遇害的圖形影片在斯蒂芬斯的 Facebook 賬戶上被公眾訪問了兩個多小時。這一延誤再次引發了人們對 Facebook 稽核冒犯性內容的批評，特別是與暴力犯罪相關的影片和其他內容的公開帖子。

“我們還有很多工作要做。本週克利夫蘭發生的悲劇讓我們再次意識到這一點。我們向羅伯特·戈德溫·斯尼奧的家人和朋友表示慰問，我們還有很多工作要做，並將繼續盡我們所能防止此類悲劇再次發生。”

隨著新技術平臺的使用，Facebook 繼續努力稽核資料。

恐怖組織的暴力內容

2013 年初，Facebook 因允許使用者上傳和分享包含暴力內容的影片（例如恐怖分子斬首人員的畫面）而受到批評。Facebook 最初禁止此類內容出現在網站上。在此期間，Facebook 對母乳餵養照片的立場開始受到批評。2013 年 10 月，Facebook 宣告將繼續禁止母乳餵養照片，但現在將允許釋出極端暴力的片段，聲稱使用者應該能夠觀看並譴責，而不是慶祝和擁抱此類行為。此舉招致批評，並引發了人們對材料對觀眾長期心理傷害以及年輕 Facebook 使用者的心理傷害的擔憂。Facebook 後來又改變了他們的決定，再次接受此類內容，並後來表示，將來此類內容必須包含警告資訊。

未能移除兒童性侵圖片

2017 年，Facebook 群組正在討論交換看似是兒童虐待材料的東西。BBC 向 Facebook 報告了幾十張照片，但只有 20% 被移除。在 BBC 請求採訪後，他們向 Facebook 提供了這些圖片的示例。Facebook 立即取消了會議並通知了當局，稱“任何人分發兒童性剝削圖片都是違法的”。

BBC 測試了 Facebook 的說法。他們對看似違反指南的 100 個帖子使用了舉報按鈕。只有 18 個被舉報的帖子被移除。Facebook 的指南還禁止被判有性侵罪的罪犯擁有賬戶，但 BBC 發現 5 個被判有性侵罪的罪犯擁有賬戶。所有都被舉報，但都沒有被移除。

因此，英格蘭兒童事務專員安·朗菲爾德表達了她的不安和失望。防止虐待兒童國家協會 (NSPCC) 也表達了擔憂。

“Facebook 無法從其網站上移除非法內容是令人震驚的，並且違反了他們為保護兒童而制定的協議。這也讓人質疑他們認為哪些內容對兒童來說是不恰當和危險的。”

Facebook 後來發表宣告，表示他們已審查並移除所有被舉報的專案。

結論

馬克·扎克伯格表示，Facebook 已經在與當地社群組織和執法部門合作，試圖幫助那些在社交網站上釋出了關於傷害自己或他人的帖子的使用者，並計劃在未來讓這一過程變得更加簡單。目前，普通使用者需要將不恰當內容標記為不當，然後由版主觀看並決定是否將其刪除以及是否需要採取進一步行動。未來，Facebook 將開發自動工具來檢測影片中的內容，並有可能在人類使用者或版主看到之前刪除攻擊性帖子。但這也可能對 Facebook 產生反作用。2016 年，Facebook 解僱了所有管理主頁“趨勢新聞”版塊的人類編輯，認為可以將其 AI 系統取代這些外包員工。在 AI 接管後的幾天內，假新聞就出現在了“趨勢新聞”版塊，這表明 AI 稽核目前還無法做到。

與此同時，Facebook 提供了資源來指導使用者管理自己的內容。他們提供了多種選項，例如遮蔽特定詞彙、遮蔽髒話設定和遮蔽使用者選項。使用者還可以選擇誰可以檢視和釋出到他們的時間線。這些個人稽核選項並不能解決刪除不當內容的總體問題，但它可以幫助使用者限制在其帳戶上檢視和釋出的內容。