用於社會變革的聊天機器人/IRB，研究倫理
機構審查委員會 (IRB) 長期以來一直是學術研究中必不可少的監管機構。雖然 IRB 的原則在不同司法管轄區可能略有不同，但任何一個 IRB 都會提供一個規劃倫理人類研究的方案，為機構內外的研究人員提供良好的指導。在本節中，我們將概述康奈爾大學 IRB 指南，這些指南適用於使用大型語言模型對人們進行的實驗性干預。
如果您有興趣發表基於干預結果的科學論斷的學術研究，大多數期刊都會 *要求* 您提供從大學機構 IRB 委員會獲得的批准。如果您目前不是大學或機構的成員，最好的辦法是找到願意擔任聯絡人的合作者或合著者，並以他們的名義提交給他們的 IRB。
知情同意：參與者必須充分了解他們與 LLM 互動的性質，包括潛在風險、益處和研究的總體目的。該過程必須明確區分人類參與者與 AI 的互動與更傳統的干預。必須特別注意確保參與者瞭解他們正在與機器而不是人進行互動，以及他們的資料如何被 AI 系統使用、儲存或處理。如果涉及弱勢群體，同意過程可能需要進一步審查和額外的保障措施。
資料收集和保留：資料收集應設計明確的協議來保護參與者資訊。在開始時，研究人員必須獲得知情同意，確保參與者瞭解正在收集的資料型別、研究的目的以及如何使用和保護他們的資訊。應儘可能減少敏感資料，包括個人可識別資訊 (PII)。如果收集和儲存 PII 是必需的，資料收集過程必須涉及強大的加密方法，例如 AES-256 加密，無論是在靜止狀態還是在傳輸過程中。這確保了資料在儲存和傳輸期間的安全，防止未經授權的訪問或洩露。此外，研究團隊應使用安全的資料管理平臺，訪問許可權僅限於直接參與研究的個人。
為了符合康奈爾大學 IRB 標準，研究人員必須制定全面的資料保留和銷燬政策。資料應僅在滿足研究目標所需的時間內保留。建議在 IRB 提交檔案中明確概述資料保留期限，其中包括資料匿名化和刪除的具體時間表。對於敏感資料集，匿名化應涉及資料掩蔽、假名化或聚合等技術，這些技術可以有效降低重新識別風險。一旦研究完成或不再需要資料，研究人員必須確保所有資料，特別是 PII，使用經批准的方法安全銷燬，例如加密擦除或儲存介質的物理銷燬。此外，如果要與第三方共享資料，應建立嚴格的資料共享協議，以確保這些實體遵守相同的保密標準，並在資料生命週期的整個過程中保持資料的安全。透過採用這些策略，研究人員可以充分保護參與者的隱私，並滿足康奈爾大學 IRB 嚴格的資料保護要求。
風險評估：作為 IRB 審查的一部分，研究人員需要提供全面的風險評估，識別使用 LLM 可能產生的任何潛在危害。這包括情緒困擾、AI 系統可能出現有偏見的回應，或由於互動而導致的意外社會後果。如果 LLM 被設計成對參與者的決策、情緒或社會行為產生影響，則必須仔細權衡這些風險。IRB 還將評估研究團隊計劃如何監測和緩解此類風險，包括為可能在干預後需要支援的參與者提供資源或轉介。
LLM 對決策和自主性的影響：鑑於 LLM 模擬人類對話的性質，人們擔心 AI 如何影響參與者的自主權。康奈爾大學的 IRB 希望研究人員闡明 LLM 響應的生成方式，並評估聊天機器人建議或輸出被視為權威或操縱的風險。在研究旨在創造社會或行為變化的領域，必須考慮使用 LLM 生成的內容來影響參與者的倫理意義。研究人員應提出明確的簡要說明機制，以確保參與者在實驗結束後瞭解互動的性質。
偏見和公平：許多 LLM 可能反映出其訓練資料中的固有偏見，可能導致社會有害的結果。康奈爾大學的 IRB 要求研究人員解決他們將如何監測和減輕 LLM 響應中的偏見，特別是如果幹預影響邊緣化或弱勢群體。這可能包括定期稽核 AI 的輸出以確保公平，以及在如何訓練 AI 方面保持透明。應在 IRB 申請中披露 LLM 中任何已知的限制或偏見，並告知參與者。
簡要說明和反饋：對於涉及 LLM 的研究，特別是干預的社會影響尚不清楚或可能產生不可預見的後果的研究，有必要進行徹底的簡要說明過程。IRB 將尋找有關如何向參與者告知實驗後 LLM 互動的真實性質的詳細資訊，並給予他們提問或選擇退出其資料的權利。鼓勵研究人員納入一項機制，讓參與者提供其體驗的反饋，這也有助於識別任何意外風險或影響。
社會影響研究的特殊考慮事項：如果研究旨在解決社會問題或實現更廣泛的社會影響，例如影響公眾輿論、政治觀點或行為，康奈爾大學的 IRB 將評估干預是否會導致意外的社會破壞。例如，如果聊天機器人被設計成與使用者就心理健康、政治意識形態或社會正義等敏感話題進行交流，IRB 將要求研究人員提供詳細的理由，說明選擇主題、人群以及將 AI 用於此類干預的倫理考量。
康奈爾大學的 IRB 審查流程是一個協作和迭代的過程，旨在確保涉及人類受試者的研究符合嚴格的倫理標準。在研究人員提交其初始提案後，其中包括研究目標、方法、參與者招募策略和資料保護計劃，IRB 通常會與研究團隊進行來回溝通。這種溝通通常透過電子郵件進行，包括 IRB 提供詳細的反饋並要求澄清或修改以確保符合機構政策和聯邦法規。
反饋過程可能需要多次修訂，因為 IRB 可能會建議調整以改善參與者保護，改進同意過程或更好地保護敏感資料。研究人員應解決這些問題，並重新提交其修訂後的協議以供進一步審查。這確保了研究在獲得批准之前在倫理上是合理的。
一旦獲得批准，IRB 的監督不會停止。對於正在進行的或多年的研究，研究人員必須提交年度續簽申請以維持其批准狀態。在研究過程中對研究設計、方法或參與者參與進行的任何重大變更也需要透過修訂過程獲得 IRB 事先批准。
在康奈爾大學，某些涉及人類受試者的研究型別可能符合 IRB 豁免類別，這意味著它們會接受較輕的審查級別。雖然這些研究仍然需要符合倫理標準，但它們通常對參與者造成的風險很小，並且有資格獲得簡化的審查流程。
要獲得豁免資格，研究必須符合聯邦定義的幾個類別之一，例如涉及正常教育實踐、匿名調查或使用公開資料的研究。但是，即使一項研究符合這些標準，也必須提交給 IRB 以進行正式的豁免狀態確定。
豁免並不意味著研究不受監督。研究人員仍然需要遵循與知情同意、資料隱私和參與者福利相關的指南。此外，在授予豁免後對研究進行的任何重大變更都必須提交給 IRB 進行審查，以確認研究仍然符合豁免資格。雖然豁免研究不需要年度續簽，但研究人員必須讓 IRB 瞭解任何可能影響研究範圍或風險水平的更新。