用於社會變革的聊天機器人/傑里米·富特
本文詳細介紹了阿萊克和傑里米之間的一段對話，重點關注他們對聊天機器人用於線上社群調解和社會影響的合作研究。它首先概述了他們各自的專案、共同興趣、倫理考量、技術挑戰以及聊天機器人和大型語言模型 (LLM) 領域的未來步驟。
阿萊克和傑里米的對話代表了跨學科研究的融合，涉及傳播學、人工智慧和倫理學。他們的交流揭示了聊天機器人重塑線上互動的潛力、部署此類技術的倫理影響以及支援其使用的理論框架。
傑里米的計劃旨在與 Reddit 上以釋出有毒評論而聞名的使用者互動，為他們提供與機器人對話的機會。該專案與一位研究毒性的科學家合作，並有三種不同的互動方式
- 預設設定，沒有特定的行為推動。
- 鼓勵遵守 Reddit 社群規範的方法。
- 一種敘事故事模式，促使使用者反思自己的行為。
目標是監控互動後的行為變化，以評估每種方法的有效性。
使用者響應類別 在專案期間，傑里米觀察到使用者做出了不同的響應，他將其歸類為
- 試圖挑釁機器人的巨魔。
- 為自己的行為辯護並質疑機器人上下文理解能力的辯護者。
- 表現出真誠反省，有時甚至表示感謝的善意互動者，在演示中對他們表示感謝的真實性提出了擔憂。
專案物流和關注點
- 專案的物流方面，包括最初由於即時語音生成的複雜性而專注於文字互動。
- 處理各種互動場景可能需要一個專門的 LLM 網路。
阿萊克認為這些互動具有教育意義，並採用各種對話技巧來灌輸教訓。他的願景包括
- 利用聊天機器人來彌合個人觀點，從這些對話中形成一個社會語義資料庫。
- 透過機器人調解的對話，在社會討論中反映不同的觀點。
- 探索資料收集方法，包括語音或文字輸入，以及與機器人進行辯論式互動的可行性。
- 調查 LLM 的技術培訓，以支援他設想的語義資料庫。
阿萊克的擴充套件願景
- 阿萊克更廣泛的目標是創造一個通用調解人，以提高社會溝通效率、解決錯誤資訊並彌合戰略性社會分歧。
- 他致力於非干預和透明的方法。
- 他推測可以用慈善資金來擴大專案的規模。
潛在應用和抱負
- 人工智慧政治家和透過聊天機器人組織集體行動的概念。
- 一種可以調解對話的工具，反映多種觀點，以便更好地理解社會。
兩位研究人員都認為，當用戶與機器人交談時，透明度非常重要，他們懷疑這種公開性可能會提高對話的質量。
倫理辯護
- 與使用者互動，尤其是弱勢群體互動方面的倫理問題，以及普遍尊重互動的論點。
- 根據機構審查委員會 (IRB) 協議，透過 Reddit 訊息和連結到資訊頁面來獲得同意的流程。
技術方面
- 對底層技術的討論，傑里米提到了 GPT-3，以及將機器人對齊以確保安全和友善響應的重要性。
- 阿萊克強調了培訓 LLM 所需的技術知識，以及使用可以執行在個人計算資源上的開源替代方案的可能性。
討論還深入探討了在線上社群中使用 LLM 的社會和理論意義，提到了社會資本理論以及聊天機器人調解可能導致更大社會凝聚力的討論的可能性。
民主理想和簡化解決方案
- 對話觸及了使持有相反觀點的個人能夠進行討論的民主潛力，以及聊天機器人調解這些交流以防止退化為黨派之爭的可能性。
評估結果和測量
- 傑里米分享了關於行為改變指標的見解，估計他們接觸到的使用者中大約有 10% 同意與機器人互動，而這些使用者中，大約 70% 在一定程度上參與了互動。
實驗設計和 Reddit 的作用
- 設計實驗以吸引 Reddit 使用者，考慮接觸 Reddit 使用者或版主以參與互動，而無需獲得 Reddit 本身的許可。
結束對話
對話結束時，阿萊克計劃提交他的 IRB 提案，而傑里米計劃將阿萊克介紹給一位對使用 LLM 進行調解感興趣的同事。他們表達了相互交換 IRB 材料並繼續討論潛在合作的興趣。
相關事實拼盤
本節彙集了對話中提到的具體事實和資料，為阿萊克和傑里米討論的專案和願景提供了更深層的理解和清晰度。
- 傑里米的專案互動率表明，他們接觸到的使用者中大約有 10% 同意與機器人互動。在這些互動中，大約有一半被認為是出於善意，其中 70% 在一定程度上參與了互動，而三分之一從一開始就表現出惡意。
- 傑里米提到了在自己的聊天機器人中使用 GPT-3，但後來澄清了他們使用的是 GPT-3.5，該模型已經過對齊以確保安全的響應。
- 阿萊克正在考慮使用可以高效執行在 Mac 上的 GPT-3 的開源替代方案，這意味著他們將採取一種動手的方式來進行原型設計和潛在部署。
- 傑里米已經考慮過投資 GPU 資源來滿足其專案的技術需求。
- 阿萊克和傑里米討論了阿萊克與 UCL 的喬希·貝克合作的可能性，喬希·貝克是一位調解方面的專家，他也對在這個背景下使用 LLM 表現出興趣。
- 阿萊克正在準備提交 IRB 提案，並正在考慮如何構建同意流程，特別是針對弱勢群體。
- 傑里米解釋了他們透過直接訊息獲得 Reddit 研究同意的方式，這些訊息連結到一個資訊頁面，他們確保使用者知道參與的限制物件為 18 歲以上的人士。
- 在閱讀了簡·梅耶的《“黑錢”》後，阿萊克對該專案的動力得到了進一步加強，該書詳細介紹了科赫兄弟對美國政治的影響。
- 阿萊克和傑里米思考了 GPT-3.5 等 LLM 在促進有見地的對話方面的潛力，以及它們對社會科學的重大貢獻。
- 他們還討論了聊天機器人即時語音生成中涉及的物流挑戰，以及如果語音過於複雜，則可能預設為簡訊。
本節中提供的事實不僅有助於更深入地瞭解所討論的專案，還突出了兩位研究人員在追求聊天機器人和 LLM 的創新應用方面的細緻考量，以增強線上社群互動和社會溝通。
連結