資訊科技與倫理/社交媒體內容與定向

社交媒體內容與定向的法律和倫理問題

社交媒體是一把雙刃劍，它提供了前所未有的方式來連線和分享資訊，同時也帶來了重大的法律和倫理挑戰。這些平臺不僅透過它們顯示的內容來塑造公眾話語，而且由於它們的內容定向實踐，還引發了有關隱私、操縱和公平性的問題。這些過程背後的演算法可以放大某些聲音或壓制其他聲音，影響從個人心理健康到民主程序的一切。因此，社交媒體內容與定向的交匯點包含了廣泛的法律和倫理問題，包括言論自由、審查制度以及對選舉和政治信仰的影響。社交網路的倫理意義是複雜而多方面的。根據 Shannon Vallor 的說法，它們可以分為三個主要領域：

1. 社交網路活動本身的直接影響。
2. 來自支援這些平臺的商業模式的間接影響。
3. 反映社交網路作為一種變革性的社會政治和文化力量的結構性影響。

社交媒體內容

社交媒體內容涵蓋各種各樣的輸出，從使用者生成的帖子和分享的新聞文章到贊助內容和演算法確定的提要。這些內容的選擇和展示會顯著影響公眾輿論和社會規範，使其成為倫理審查的重點領域。

社交媒體定向

社交媒體定向是指根據對人口統計、行為和心理資料的分析向用戶提供內容的實踐。這種做法允許平臺為每個使用者提供看似相關的 內容，但也引發了有關隱私、自主權以及社會分化和偏見可能加強的嚴重倫理問題。

言論自由與社交媒體內容

言論自由是民主社會的一塊基石，它被載入美國憲法第一修正案，該修正案斷言“國會不得制定任何法律......剝奪言論自由或出版自由……”然而，這種權利主要受到政府侵犯的保護，不適用於私人實體，包括社交媒體公司，它們可以定義和執行自己的規則，規定可接受的語言和內容。

社交媒體平臺作為言論自由的仲裁者

社交媒體平臺既是言論自由的福音，也是審查制度的潛在場所。這些平臺使個人能夠廣泛地分享他們的觀點，並動員起來為各種事業而奮鬥。然而，它們也有權壓制它們認為不合適的內容，無論是違反社群標準還是在某些司法管轄區內具有法律爭議的內容。

作為私人實體，社交媒體公司經常對它們允許的內容做出複雜決定。這包括決定允許來自特定使用者（如國家元首）的某些型別的言論，同時阻止來自其他使用者的類似表達，並可能將其標記為仇恨言論或恐怖主義內容。這種選擇性執法引發了人們對社交媒體政策的連貫性和公平性的擔憂。

“社交媒體公司在網路言論上所掌握的這種權力，以及因此在更廣泛的公眾話語上所掌握的權力，正被認識為一種新的治理形式。這種權力是獨一無二的，因為社交媒體公司所青睞的規範可以透過社交媒體平臺的架構直接實施。沒有協商、申訴或挑戰途徑。使用者幾乎沒有範圍拒絕以這種方式實施的規範。雖然一個公然不合法的規範可能會引起軒然大波，但社交媒體公司為了迎合違反國際人權規範的現行當地規範而做出的選擇卻很常見。”

有關社交媒體公司對內容的監管的更多資訊，請參閱 Kay Mathiesen 的討論，她將審查制度描述為透過阻止說話者或接收者參與言論來限制對內容的訪問。

法律和倫理考量

管理社交媒體上言論自由的法律框架在各國之間差異很大，這可能會影響這些平臺上言論的監管方式。在限制性更強的制度中，社交媒體公司可能被迫遵守當地法律，要求刪除在其他情況下可能被視為合法的內容。保護免受傷害與言論自由權利之間的平衡所帶來的倫理挑戰為內容稽核創造了一個複雜的局面。

在全球範圍內，社交媒體對言論自由的影響是深遠且多方面的。企業不僅要應對不同的法律環境，還要應對廣泛的公眾期望和國際人權規範。這些平臺所擁有的權力有時會與可能侵犯普遍認可權利的地方規範相一致，從而引發人們對社交媒體作為一種沒有傳統制衡的新型治理形式的作用的質疑。

批評者認為，社交媒體平臺的架構透過其設計直接執行規範，留給辯論或上訴的空間很少。這種單邊治理方式引發了人們對這種權力合法性的爭論，尤其是在這種權力可能壓制倡導社會或政治變革的聲音時。

社交媒體上的言論和內容限制

社交媒體平臺作為私營企業，有權制定自己的規則，規定哪些內容在其網路上可接受。這種控制對於維護這些平臺內互動質量以及遵守法律標準和保護使用者免受傷害至關重要。

社交媒體上的一些言論領域特別具有爭議性，並且受到限制，包括仇恨言論、虛假資訊、宣傳以及可能對他人造成傷害的言論。

仇恨言論

仇恨言論 在社交媒體上經常針對特定的種族、民族或其他人口群體，並可能煽動暴力或歧視。例如，三K黨等組織利用社交媒體傳播針對不同群體的攻擊性內容，極大地擴大了其仇恨言論的傳播範圍和影響。美國南方貧困法律中心報告稱，在美國有大量活躍的仇恨和反政府組織，說明了這個問題的嚴重程度。

虛假資訊和宣傳

在社交媒體上傳播虛假資訊或虛假資訊 是一個主要問題，尤其是考慮到它可能影響公眾輿論和選舉結果。研究表明，虛假故事比真相觸達更多人，傳播速度更快，這往往是由於聳人聽聞或有爭議性的內容吸引了使用者的興趣。

社交媒體平臺也被各種行為者（包括外國政府）利用來傳播宣傳。在 2016 年美國總統大選中，有記錄顯示，此類活動意在左右公眾輿論或製造不和諧。

人們經常呼籲，尤其是政治領導人，要求社交媒體平臺刪除所謂的“假新聞”，但在幾乎所有情況下，說謊在美國憲法第一修正案中被歸類為受保護的言論。

錯誤資訊

錯誤資訊 指的是無論是否有意誤導，傳播的虛假或不準確的資訊。與故意欺騙的虛假資訊不同，錯誤資訊可能是由相信資訊真實或無意造成傷害的個人傳播的。錯誤資訊可以涵蓋廣泛的內容，從簡單的客觀錯誤到更復雜的誤解或資料誤解。

錯誤資訊的傳播通常透過社交媒體、新聞媒體或口耳相傳發生，並且由於線上分享的病毒式傳播，傳播速度可能很快。錯誤資訊的影響可能是廣泛的，影響公眾輿論，影響決策，並可能導致社會或政治後果。

COVID-19 大流行是錯誤資訊傳播的肥沃土壤，影響了公眾對衛生措施、疫苗和病毒本身的理解和應對。圍繞大流行的各個方面的錯誤資訊，例如口罩的有效性、疫苗的安全性以及病毒的本質，導致了各種各樣有時相互矛盾的公眾反應。一個特別有害的謠言是，COVID-19 疫苗會導致男性和女性不孕。這種特定的錯誤資訊導致了人們對疫苗的猶豫，嚴重影響了抗擊病毒的公共衛生工作。儘管美國婦產科醫師學院、美國生殖醫學學會和母胎醫學學會等信譽良好的來源已經駁斥了這一說法，但最初的謠言已經播下了深深的懷疑種子。

可能對他人造成傷害的言論

社交媒體上某些型別的內容，例如人肉搜尋 或虛假報警，可以直接導致人身傷害。此類內容還包括可能煽動暴力行為或提供有關實施有害活動的的資訊。社交媒體平臺在減輕此類有害內容傳播方面的責任是一個重要的道德問題。

誹謗

誹謗 在社交媒體上可以透過傳播虛假資訊來損害個人的聲譽。法律措施通常要求平臺採取行動打擊誹謗性內容，以保護受影響的個人。這是一個關鍵領域，言論自由與免受誹謗或名譽損害的權利相交。

演算法和內容交付

社交媒體在現代社會已經變得非常普遍，向用戶的手機和電腦螢幕提供難以估量的海量內容。關於社交媒體平臺的一個常見話題是“演算法”這個不祥且模糊的詞語，它決定了使用者的互動方式以及哪些內容受歡迎。這種“演算法”源於計算機演算法的概念，演算法被廣泛定義為“解決問題或實現某個目標的逐步程式”。 從本質上講，演算法是一種用於解決問題的方案。

社交媒體平臺使用演算法來實現“基於內容的推薦系統”的目標，該系統根據使用者的興趣特徵決定使用者可以看到哪些內容以及看不到哪些內容。 該配置檔案是使用大量資料點建立的，然後使用這些資料點來衡量使用者對顯示給他們的內容的興趣，然後向用戶提供類似的內容。所有這一切都是為了讓使用者始終參與社交媒體平臺。

使用者參與的激勵

社交媒體平臺希望使用者始終參與他們的內容，以便他們可以向用戶投放廣告，並使用演算法來確定哪些使用者應該在何時收到哪些廣告。廣告商然後向社交媒體平臺支付費用以將其廣告展示給目標受眾，從而為社交媒體平臺提供了持續的收入來源。

有些人認為使用演算法向用戶投放廣告是不道德的，他們認為這不可避免地會針對最脆弱的人群。 這只是一個爭議，但圍繞社交媒體平臺的大部分討論都與這些由於其使用演算法而產生的爭議交織在一起。

點選誘餌和新聞誠信

隨著社交媒體的興起，許多新聞機構發現自己需要適應。這些新聞機構現在使用社交媒體平臺來將內容傳播給受眾。^[14] 這種轉向社交媒體導致新聞機構放棄了對內容傳播的控制，變得依賴演算法來分發內容。^[14] 新聞機構和內容創作者都知道，如果在這些社交媒體平臺上沒有得到足夠的使用者的互動，將損害他們的未來。^[13] 這導致許多新聞機構和內容創作者參與了一種被稱為“標題黨”的做法，其定義是“旨在讓讀者點選超連結的東西，尤其是當連結指向價值或興趣可疑的內容時”。^[15] 許多新聞機構也放棄了“傳統的新聞價值觀和新聞自主權”^[14]，轉而關注能提高使用者參與度和演算法可行性的內容。

定向內容

為了保持使用者的參與度，社交媒體平臺會提供“定向內容”，這與“由演算法為使用者選擇的內容，因為演算法認為使用者會參與這些內容”同義。 這些內容是根據目標使用者職業、財富和教育資訊等資料點進行定向的。^[16] 定向內容的批評者指出，這種定向方式是掠奪性的，因為它允許對可能最容易受到投放給他們的廣告影響的極端利基群體進行定向。 批評者還指出，這些社交媒體公司必須收集和處理大量使用者資料才能實現這種細粒度的定向，而這通常是在知情同意的基礎上進行的。^[17] 人們擔心的是，使用者沒有充分了解到他們使用這些社交媒體平臺的結果是放棄了一些隱私期望，因此推翻了知情同意的基礎。

批評者還指出，內容定向往往會導致對這些社交媒體平臺的成癮。 這是基於社交媒體過度使用在使用者身上培養的六種“成癮標準屬性：顯著性、情緒調節、耐受性、戒斷症狀、衝突和復發”。^[18] 您可以在此處找到的專門部分中閱讀有關社交媒體成癮的更多資訊。

內容壓制

社交媒體平臺使用演算法定向和推廣某些內容的另一方面是內容壓制。 正如演算法會促進對某些型別內容的參與一樣，它們也會壓制其他型別的內容。 批評者指出，演算法的建立並非一箇中立的過程，而且往往是建立者或整個社會的偏見會影響內容選擇以進行推廣和壓制。^[19] 有一些內容創作者聲稱，他們在 TikTok 等平臺上釋出了“黑人的命也是命”的內容，他們的內容被壓制了。^[20]

內容定向的顛覆：對選舉和政治程序的影響

最近的關鍵例子突出了與社交媒體上的內容定向相關的眾多道德和法律問題。 值得注意的是，像劍橋分析公司參與 2016 年美國總統大選和英國脫歐公投這樣的事件表明，社交媒體可以被用來操縱公眾輿論和影響政治結果。 這些案例揭示了定向內容策略的強大影響力及其對民主的深遠影響。

劍橋分析公司和 2016 年美國總統大選

劍橋分析公司，一家英國諮詢公司，也是戰略傳播實驗室 (SCL) 的子公司，因其在 2010 年代中期至後期政治事件中的重要作用而聲名狼藉，最終在 2018 年 5 月關閉。 該公司有爭議的行為源於未經授權獲取了超過 5000 萬 Facebook 使用者的私人資訊。 這種洩露使得可以構建詳細的使用者資料，然後這些資料被用來影響美國政治，尤其是在 2016 年總統大選和英國脫歐公投期間。^[21]

該行動始於 2014 年，當時劍橋分析公司執行長亞歷山大·尼克斯提議使用心理畫像來影響選民的行為。 這些策略被用來影響當地選舉中保守派候選人的公眾輿論，資金來自史蒂夫·班農等人物。^[22] 該公司最初可用的資料不足，導致聘用了俄裔美國學者亞歷山大·科根開發一款應用程式，該應用程式不僅收集使用者資料，還收集他們 Facebook 朋友的資料。 這種大規模的資料收集得益於 Facebook 當時寬鬆的資料使用政策。^[23]

定向廣告、籌款呼籲和競選活動戰略規劃，例如決定唐納德·特朗普應該訪問哪裡以最大限度地獲得支援，都是基於這些資料的。 同時，還採用了動員民主黨選民和加劇右翼情緒的策略，展示了定向內容的雙重用途，既可以動員選民，也可以壓制選民投票率。^[24]

英國脫歐公投

在大西洋彼岸，類似的畫像技術被用來影響英國脫歐投票。 在脫歐運動和劍橋分析公司之間發現了聯絡，透過一家名為 Aggregate IQ 的加拿大公司，該公司與各種政治運動團體有聯絡，這些團體主張英國離開歐盟。 在公投的關鍵最後幾天，被認定為可被說服的選民收到了超過十億條定向廣告，這種策略對於確保公投獲得透過所需的微弱多數至關重要。

這些事件促使社交媒體平臺在管理資料方面發生了重大變化，並引發了更廣泛的討論，即需要對內容定向做法進行嚴格監管，以保護民主程序。

審查和內容壓制

社交媒體上的審查可能是微妙的，也是多方面的，通常表現為兩種主要形式：壓制審查和威懾審查。 兩種方法都有其含義，並在不同的情況下被採用，往往引發有關言論自由與監管需求之間平衡的爭論。

壓制審查

壓制審查是指禁止發表、展示或傳播有異議的材料。在美國，這種審查形式通常等同於“事先限制”，這是一個通常被認為違憲的概念，除非它符合高標準的正當理由，通常只在國家安全或公共安全的情況下才被維持。

社交媒體平臺有時會進行一些被認為是壓制審查的做法，例如刪除或遮蔽某些型別的內容。這可能包括自動演算法抑制提及被認為敏感或有爭議的特定主題的內容。雖然平臺辯稱這樣做是必要的，以維護社群標準，但批評者往往將其視為限制言論自由的審查形式。

版權申訴作為一種壓制形式

社交媒體背景下的智慧財產權問題突出了另一種壓制形式。平臺使用版權申訴自動執行智慧財產權法，通常不進行徹底調查。這種做法會導致內容被壓制，即使它屬於合理使用條款。

威懾性審查

威懾性審查不會直接阻止或禁止發表材料。相反，它依靠法律後果的威脅，例如逮捕、起訴或鉅額罰款，來阻止建立和傳播有異議的內容。這種審查形式可能尤其令人不寒而慄，因為它針對內容釋出者和可能訪問內容的人，營造了一種恐懼和自我審查的氛圍。

兩種審查形式的一個關鍵問題是難以區分發布者（那些在網上建立和釋出內容的人）和平臺（那些託管他人釋出的內容的人）。理論上，平臺根據《通訊規範法》第 230 條免於對使用者生成內容承擔責任，《通訊規範法》是網際網路立法的一項關鍵內容，它允許線上服務託管使用者生成內容，在大多數情況下不對其內容承擔責任。

管理社交媒體內容的法律框架

社交媒體的法律環境受到 1996 年頒佈的《通訊規範法》（CDA）第 230 條 的很大影響。該立法框架為平臺提供了廣泛的豁免權，保護它們免受因使用者生成內容而產生的訴訟。第 230 條至關重要，因為它允許平臺在不面臨法律後果的情況下對材料進行稽核，從而促進創新和自由的線上交流。

《通訊規範法》第 230 條：挑戰與批評

第 230 條保護社交網站免受與使用者釋出資訊相關的訴訟，使它們能夠控制內容，而不必對傳播的資訊負責。然而，該條款因其在促進有害內容傳播的同時限制平臺的責任而受到批評，儘管其目的是促進言論自由和創新。

有害內容的擴散

批評者認為，第 230 條提供的保護導致社交網路公司優先考慮使用者互動和增長，而不是嚴格的內容稽核。這使得平臺能夠避免做足夠的努力來阻止有害內容的傳播，例如仇恨言論、虛假資訊和網路欺凌。缺乏對託管此類內容的法律處罰使不良行為者能夠利用這些平臺，傳播可能損害社群和個人的危險材料。

責任的下降

據稱，第 230 條賦予社交網路網站的法律豁免權削弱了問責制，並阻止受害者尋求對他們在網上遭受的騷擾或誹謗的法律追索權。如果平臺沒有潛在的法律後果，他們可能沒有動力主動刪除有害內容或向受影響者提供充分的支援。

法律解釋的演變和未來方向

關於第 230 條的辯論仍在不斷發展，因為來自各個領域的利益相關者呼籲進行改革，以平衡線上言論自由的益處和對更大問責制的需求。法律學者和政策制定者正越來越多地研究法律如何適應社交媒體平臺內容管理的複雜性，建議可能需要更細緻的方法。這涉及考慮對演算法進行監管的可能性以及平臺線上言論的相應責任。

內容稽核

社交媒體平臺肩負著稽核內容的重任，以遏制有害資訊的傳播。此職責包括刪除傳播仇恨言論或煽動暴力的帖子，以及暫停違反平臺政策的使用者。內容稽核的範圍和效果會受到多種因素的影響，包括政治影響、文化規範和經濟激勵。

內容稽核是指篩選數字平臺上的使用者生成內容，以確定其是否合適。這包括評估文字、影像和影片，以確保它們符合平臺指南。鑑於每天上傳的內容數量巨大，內容稽核對於維護安全的線上環境至關重要。內容稽核員，這些處於此操作最前沿的人員，由於稽核的內容性質而經常面臨重大的心理挑戰，包括接觸暴力或令人不安的影像和文字。

最近的法律案件突出了這些挑戰，Facebook 因稽核員因其工作職責而遭受的創傷而與他們達成了一項 5200 萬美元的和解協議。 其他平臺，如 TikTok，也面臨著類似的法律挑戰，強調了這項工作對心理健康造成的嚴重影響。

內容稽核中的倫理問題：員工權利

稽核員的任務是過濾各種不良內容，從垃圾郵件和侵犯版權到仇恨言論和暴力內容等嚴重違規行為。持續接觸此類內容所帶來的困擾非常嚴重，會影響稽核員的心理健康，即使他們離開職位後也是如此。無論稽核員是直接受僱於平臺還是透過第三方承包商，情況都是如此。然而，內部員工通常比外包員工獲得更好的報酬、工作條件和心理健康資源。^[32]

人工智慧在內容稽核中的作用

像 Facebook 這樣的大型平臺使用人工智慧 (AI) 系統來檢測大多數有害內容。Facebook 執行長馬克·扎克伯格報告稱，AI 系統負責刪除平臺上超過 95% 的仇恨言論和幾乎所有與恐怖主義相關的內容。^[37] 儘管取得了這些進步，但仍然需要人工稽核的龐大有害內容量仍然令人難以承受。AI 雖然高效且能夠處理多種語言的內容，但在理解上下文或人類語言的細微差別方面往往缺乏必要的能力，特別是在像表情包這樣的複雜情況下，需要綜合考慮文字、影像和隱含含義。^[38] 從倫理角度來看，將人工智慧用作內容稽核工具可能在解決內容稽核員心理負擔方面很有希望，但人工智慧在內容稽核中的應用也可能加劇現有的演算法和社會偏見。

社交媒體定位和心理健康

社交媒體平臺憑藉其演算法和無限滾動等複雜設計功能，利用心理原理來培養習慣性使用，有時會導致上癮。這些設計並非良性；它們對心理健康有重大影響，深刻地影響著使用者行為和社會互動。

社交網站旨在利用可變獎勵系統，這一概念源於 B.F. 斯金納的行為主義心理學。點贊、評論和分享等互動會提供不可預測但頻繁的獎勵，迫使使用者反覆參與，以期獲得社交認可。這種互動模式會刺激大腦的獎勵中心，類似於賭博和藥物使用，會導致強迫性行為，使使用者感到無法控制地想要登入這些網站，往往以犧牲其他活動和責任為代價。這種行為成癮的嚴重後果體現在生產力下降、人際關係緊張和身體活動減少方面。

無限滾動：永無止境的定向內容

社交網站上的無限滾動功能體現了說服性設計，旨在透過利用人類自然的好奇心和害怕錯過 (FOMO) 來最大限度地提高使用者參與度。這種設計經常導致使用者進入“心流”狀態，即高度投入的狀態，讓人感覺時間在不知不覺中流逝。雖然心流在學習或藝術等活動中可能是有益的，但在社交媒體上，它往往會導致時間管理不善和注意力分散，無法完成任務，包括睡眠模式被打亂，這會導致嚴重的認知和健康後果。^[39]

黑暗路徑：社交網路內容對心理健康的影響

術語“黑暗路徑”描述了使用者由於過度使用社交媒體而可能遵循的負面軌跡。與這些路徑相關的關鍵心理健康問題包括焦慮、抑鬱和社交孤立。導致這些結果的原因是多方面的

• 社交比較：使用者經常看到他人生活的精心策劃版本，這會導致不利的比較和扭曲的自我認知。這種現象與自尊心降低和身體形象問題有關，尤其是在青少年和年輕人中。^[40]
• 網路欺凌和線上騷擾：社交平臺的匿名性可能會助長攻擊性和欺凌行為，受害者報告說壓力和焦慮水平更高，在嚴重情況下還會出現自殺念頭。^[41]
• 資訊過載：長時間使用社交媒體期間處理的大量資訊會超過大腦的處理能力，從而損害決策能力並增加壓力水平。^[42]