專業性/Timnit Gebru 和谷歌的道德 AI
2020 年底，谷歌 AI 著名研究員 Timnit Gebru 在被施壓撤回一篇批評公司使用的語言處理模型的論文後，被突然解僱。 [1] 她的解僱引發了員工和行業專業人士的憤怒，最終導致谷歌道德 AI 團隊的領導層重組。 [2] Gebru 的解僱引起了人們對科技行業研究審查、壓迫性的工作環境和濫用權力等問題的關注。
Google AI 是 Google 的人工智慧部門。該部門的使命是構建負責任的系統，讓所有人能夠使用。 2020 年，指導 Google AI 工作的 AI 原則經過調整，以解決系統性種族歧視問題，其目標是“從內部和外部的多元化聲音中學習”。 [3] 儘管做出了這些努力，黑人員工在公司整體技術人員中的比例仍不到 4%。 [4]
Google Brain 是 Google 內部的一個研究團隊，專注於機器智慧，包括深度學習和自然語言處理。 [5] 在 Google Brain 內部，道德 AI 團隊由 Margaret Mitchell 於 2017 年建立，她是高階研究科學家，致力於將 AI 實踐與人類價值觀和公平性相一致。 [6] Gebru 於 2018 年 9 月加入該團隊，擔任聯合領導人，此前 Mitchell 和 Jeff Dean（Google Brain 研究小組負責人）對其進行了鍥而不捨的招募。 [7]
.jpg)
在加入道德 AI 團隊之前，Gebru 共同創立了一個非營利組織，以解決人工智慧領域缺乏多樣性的問題。 該組織致力於透過學術專案、會議、宣傳和社群活動，增加黑人在人工智慧領域的存在。 [8] Gebru 積極倡導在開發 AI 系統的研究人員和開發人員中增加多樣性，將其視為開發無偏見機器學習系統的必要組成部分。 [9]
2018 年，Gebru 與他人合著了一篇廣為傳播的研究論文，探討了自動人臉分析系統的種族和性別偏見。 該研究分析了三種商用性別分類產品，針對按性別和膚色分組的受試者進行分析。 該研究發現，所有三家公司對男性受試者的錯誤率最低，對膚色較深的女性受試者的錯誤率最高。 [10] 儘管人們普遍推測，基於 AI 的系統在不同人群中不會產生一致的結果，但這項研究是首批表明偏差的經驗證據之一。 [11] 該研究的媒體報道十分廣泛，Gebru 也成為了倡導公平演算法的傑出聲音。 [12]
在加入 Google 的道德 AI 團隊兩年後，Gebru 正在與他人合著一篇關於大型語言模型 (LM) 負面影響的論文。 這篇名為“關於隨機鸚鵡的危險：語言模型能太大了嗎？” 的論文沒有透過 Google 的內部審查流程。 [13] 該論文指出了 LM 的主要問題，包括環境和財務成本、問題訓練資料、方向錯誤的研究工作以及偏差的放大。 研究人員對 BERT 做出了多處批評性引用，BERT 是一種用於 LM 的機器學習技術，Google 使用它來改進搜尋結果和語言處理。 該論文最後呼籲研究人員仔細考慮大型 LM 的風險，並重新評估模仿人類行為的技術的必要性。 [14]
2020 年 11 月 19 日，Timnit Gebru 被突然要求參加下午的會議，但沒有被告知會議的內容。 在會議上，時任 Google Research 副總裁 Megan Kacholia 告知 Gebru 和她的合著者，他們的論文未獲準發表。 他們被要求撤回論文。 [15]
Gebru 對此決定感到憤怒，並向名為 Google Brain Women and Allies 的郵件列表傳送了一封郵件，表達了她對這次經歷以及 Google 環境的總體失望之情。 在郵件中，Gebru 表示她不得不請求對論文進行反饋，並且只以匿名作者的機密檔案的形式獲得了反饋。 她說，當她試圖就反饋進行討論時，卻遭到了無視。 [15]
Gebru 還暗示，撤稿處理不符合典型程式，而且她因為種族和性別而受到不公正待遇。她對沒有參與關於是否撤稿的討論感到憤怒，她說從谷歌的角度來看，“你並不值得參與任何關於此事的對話，因為你不是一個在該公司被承認或重視其人性的人。”[15]
Gebru 還討論了谷歌其他歧視行為的案例，在谷歌，像她這樣的黑人女性僅佔員工總數的 1.6%。[16] Gebru 之前停止在 Google Brain Women and Allies 上發帖，因為“在釋出[她的]故事後，[她]收到了所有微觀和宏觀攻擊以及騷擾”。她說在谷歌，“沒有激勵措施去僱傭 39% 的女性：當你開始為弱勢群體代言時，你的生活會變得更糟。”[15] 她的寫作反映了此前對谷歌活動人士的報復行為，例如 2018 年穀歌員工罷工 之後。
Gebru 被解僱
[edit | edit source]在給郵件列表發郵件後，Gebru 向 Jeff Dean 和 Kacholia 表達了她的失望，並向他們傳送了一份她繼續在谷歌工作的要求清單。[17] 其中一項要求是公開她論文反饋的匿名作者。[13] Kacholia 於 2020 年 12 月 2 日回覆說，這些要求無法滿足，並表示她接受了 Gebru 的辭職。從 Gebru 的角度來看，她被解僱了，她認為這是對她傳送給 Google Brain Women and Allies 的郵件的報復，而不是因為她的要求。[18] 她在推特上表示，Kacholia 要求她在感恩節假期後不要返回工作崗位，“因為[她]傳送給大腦團隊的電子郵件中的某些方面反映出與谷歌經理的期望不一致的行為。”[19]
2020 年 12 月 3 日，Jeff Dean 向谷歌研究部門傳送了一封電子郵件，以澄清關於論文撤稿和 Gebru 離職的情況。Dean 寫道，這篇論文“在截止日期前一天才分享...然後沒有等待審稿人的反饋，而是被批准提交併提交了”，這違反了谷歌研究程式。Dean 還提到，這篇論文忽略了將最近關於語言處理模型的研究納入，這些研究解決了論文中發現的一些問題。然而，Google Brain 的另一位研究人員後來在推特上表示，他的投稿“總是被檢查是否披露敏感材料，而不是檢查文獻綜述的質量”，這意味著 Dean 認為可以證明撤稿的規則在谷歌只是選擇性地應用。[20]
在證明撤稿理由後，Dean 在他的電子郵件中表示 Gebru 沒有被解僱，而是自願辭職。他還對 Gebru 傳送給郵件列表的電子郵件表示失望，並懇請員工繼續努力進行內部多樣性計劃。[13]
後果
[edit | edit source]最初的強烈反對
[edit | edit source]許多谷歌員工對 Gebru 被解僱感到憤怒。2020 年 12 月 3 日，Google Walkout for Real Change 發起了一項請願，要求谷歌對谷歌對 Gebru 論文的回應、未來增加透明度以及重申對負責任人工智慧的承諾做出解釋。截至 2021 年 4 月 25 日，該請願書已獲得 4302 個簽名，其中 2695 個來自谷歌員工。[21] 12 月，谷歌倫理人工智慧團隊致函谷歌管理層。該信函名為“谷歌研究倫理人工智慧的未來”，要求解僱工程副總裁 Megan Kacholia。這封信還要求提供更多關於解僱 Gebru 的決定的詳細資訊，以及停止對錶達關切的員工的報復性懲罰。該團隊還要求恢復 Gebru 的職位。[22]
2020 年 12 月 16 日，九名國會議員致函谷歌，要求提供有關 Gebru 被解僱的更多資訊。這封信引用了谷歌的備忘錄，並指出它們非常含糊。這些議員還要求谷歌提供更詳細的政策，以確保他們的研究能夠得到妥善開展，並幫助識別其模型中的歧視問題。[23]
在谷歌保持沉默後，員工開始採取更極端的行動。2021 年 1 月 5 日，谷歌工程總監 David Baker 辭職，以抗議 Gebru 被解僱。2021 年 2 月 3 日，谷歌軟體工程師 Vinesh Kannan 辭職。在他辭職信中，他提到了 Gebru 和 April Christina Curley 被解僱。Curley 是谷歌招聘人員，於 2020 年被解僱。[24]
谷歌的回應
[edit | edit source]2021 年 2 月 17 日，谷歌倫理人工智慧團隊宣佈重組。該團隊直到新聞釋出後才收到內部通知。副總裁 Megan Kacholia 被解僱，由 Marian Croak 取代。[25]
另一位著名的人工智慧研究員、谷歌倫理人工智慧團隊創始人 Margaret Mitchell 博士，在推特上對 Gebru 被解僱發表了特別尖銳的言論。2021 年 1 月，Mitchell 的谷歌電子郵件訪問許可權被封鎖，她被停職。2021 年 2 月 19 日，Mitchell 被正式解僱。谷歌發言人表示，她被解僱是因為官方審查發現她違反了谷歌的行為準則和安全政策。當被問及她對谷歌宣告的反應時，Mitchell 回覆說，“我實際上並不知道這些指控。我的意思是，大部分對我來說都是新聞。”她的解僱引發了人工智慧研究人員的另一波憤怒。[26] 2021 年 3 月 8 日，Google Walkout for Real Change 發表了一封公開信。這封信沒有針對谷歌，而是試圖對谷歌施加外部壓力。這封公開信要求學術會議要求研究投稿也包括公司研究政策，並禁止律師編輯論文。這封信還宣佈了 #RecruitMeNot 運動，該運動呼籲與谷歌面試的人員撤回他們的申請，特別是引用了對 Gebru 和 Mitchell 被解僱的擔憂。研究人員被要求拒絕來自谷歌的資金，這封公開信要求在州和國家一級加強舉報人保護。[27]
持續的強烈反對
[edit | edit source]2021 年 2 月 26 日，FAccT 大會 決定從其贊助商名單中刪除谷歌，理由是最近倫理人工智慧團隊引發的爭議。該會議是第一個公開反對谷歌的組織之一，表明業界正在關注這場爭議。[28] 2021 年 3 月 12 日，包括 Hadas Kress-Gazit 博士和 Scott Niekum 博士在內的研究人員開始退出谷歌的機器學習和機器人安全研討會。谷歌以外的人工智慧研究人員開始採取更明確的立場。[29] 2021 年 4 月 6 日，谷歌經理 Samy Bengio 宣佈辭職。雖然他在辭職信中沒有提到 Gebru 和 Mitchell 被解僱，但他之前曾在社交媒體上寫道，“我支援你，Timnit。”[30]
對職業操守的評論
[edit | edit source]谷歌對道德人工智慧團隊的研究擁有很大程度的控制權。公司可以阻止研究論文在研究會議上發表，從而產生潛在的利益衝突。研究結果可能會揭示谷歌自身人工智慧模型的缺陷，因此將這些發現公之於眾對於幫助解決其他人工智慧模型中可能存在的問題至關重要。
谷歌管理層將公司形象置於首位。在被迫權衡利弊時，公司的短期聲譽優先於谷歌員工和幫助使基於文字的人工智慧更加道德的目標。
谷歌在提交研究會議時採用的政策僅選擇性地執行。管理層拒絕提供具體反饋以幫助改進研究論文，使其能夠獲批，並讓團隊對做出這些決定的人以及原因矇在鼓裡。
這場爭議仍在持續。未來的工作可以繼續關注任何進一步的負面反應，以及請願書和公開信是否會產生持久影響，無論是在谷歌還是其他地方。這些擔憂可能會消退，也可能導致研究會議和科技公司發生持久的政策變化。
- ↑ Bass, D., Banjo, S., & Bergen, M. (2020, December 3). Google’s Co-Head of Ethical AI Says She Was Fired for Email. Bloomberg.https://www.bloomberg.com/news/articles/2020-12-03/google-s-co-head-of-ethical-ai-says-she-was-fired-over-email
- ↑ Grant, N. & Bass, D. (2021, February 27). Google Revamps AI Teams in Wake of Researcher’s Departure. Bloomberg.https://www.bloomberg.com/news/articles/2021-02-18/google-to-reorganize-ai-teams-in-wake-of-researcher-s-departure?srnd=technology-vp&sref=gni836kR
- ↑ Google AI. (2020). AI Principles 2020 Progress update. https://ai.google/static/documents/ai-principles-2020-progress-update.pdf
- ↑ Parker, M. (2020). Google Diversity Annual Report 2020. https://kstatic.googleusercontent.com/files/25badfc6b6d1b33f3b87372ff7545d79261520d821e6ee9a82c4ab2de42a01216be2156bc5a60ae3337ffe7176d90b8b2b3000891ac6e516a650ecebf0e3f866
- ↑ Dean, J. (2017, September 13). The Google Brain Team’s Approach to Research. Google AI Blog. https://ai.googleblog.com/2017/09/the-google-brain-teams-approach-to.html
- ↑ Mitchell, M. (n.d.). http://www.m-mitchell.com/mitchell-cv.pdf
- ↑ Grant, N., Bass, D., & Eidelson, J. (2021, April 21). Google Turmoil Exposes Cracks Long in Making for Top AI Watchdog. Bloomberg.https://www.bloomberg.com/news/articles/2021-04-21/google-ethical-ai-group-s-turmoil-began-long-before-public-unraveling
- ↑ Black in AI. (n.d.). https://blackinai.github.io/#/about
- ↑ Snow, J. (2018, February 14). “We’re in a diversity crisis”: cofounder of Black in AI on what’s poisoning algorithms in our lives. MIT Technology Review.https://www.technologyreview.com/2018/02/14/145462/were-in-a-diversity-crisis-black-in-ais-founder-on-whats-poisoning-the-algorithms-in-our/
- ↑ Buolamwini, J., & Gebru, T. (2018). Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Proceedings of Machine Learning Research.http://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf
- ↑ Lohr, S. (2018, February 9). Facial Recognition Is Accurate, if You’re a White Guy. The New York Times.https://www.nytimes.com/2018/02/09/technology/facial-recognition-race-artificial-intelligence.html
- ↑ Buolamwini, J. (n.d.). Updates. MIT Media Lab.https://www.media.mit.edu/projects/gender-shades/updates/
- ↑ a b c Hao, K. (2020, December 4). We read the paper that forced Timnit Gebru out of Google. Here’s what it says. MIT Technology Review. https://www.technologyreview.com/2020/12/04/1013294/google-ai-ethics-research-paper-forced-out-timnit-gebru/
- ↑ Nayak, P. (2019, October 25). Understanding searches better than ever before. Google Blog. https://blog.google/products/search/search-language-understanding-bert/
- ↑ a b c d Gebru, T. (n.d.). https://www.platformer.news/p/the-withering-email-that-got-an-ethical
- ↑ Tiku, N. (n.d.). Google hired Timnit Gebru to be an outspoken critic of unethical AI. Then she was fired for it. Washington Post. Retrieved April 25, 2021, from https://www.washingtonpost.com/technology/2020/12/23/google-timnit-gebru-ai-ethics/
- ↑ Oremus, W. (2020, December 3). Noted A.I. Ethicist Timnit Gebru Let Go From Google Following Tense Email Exchange. Medium. https://onezero.medium.com/noted-a-i-ethicist-timnit-gebru-leaves-google-following-tense-email-exchange-f602cdb7fe89
- ↑ Gebru, T. (2020, December 3). I was fired by @JeffDean for my email to Brain women and Allies. My corp account has been cutoff. So I’ve been immediately fired :-) [Tweet]. @timnitGebru. https://twitter.com/timnitGebru/status/1334352694664957952
- ↑ Gebru, T. (2020, December 3). However, we believe the end of your employment should happen faster than your email reflects because certain aspects of the email you sent last night to non-management employees in the brain group reflect behavior that is inconsistent with the expectations of a Google manager. [Tweet]. @timnitGebru. https://twitter.com/timnitGebru/status/1334364735446331392
- ↑ Nicolas Le Roux. (2020, December 3). Now might be a good time to remind everyone that the easiest way to discriminate is to make stringent rules, then to decide when and for whom to enforce them. My submissions were always checked for disclosure of sensitive material, never for the quality of the literature review. [Tweet]. @le_roux_nicolas. https://twitter.com/le_roux_nicolas/status/1334601960972906496
- ↑ Google Walkout for Real Change. (2020, December 3). Standing with Dr. Timnit Gebru — #ISupportTimnit #BelieveBlackWomen. Google Walkout for Real Change. https://googlewalkout.medium.com/standing-with-dr-timnit-gebru-isupporttimnit-believeblackwomen-6dadc300d382.
- ↑ Elias, J. (2020, December 17). Google AI ethics team demands changes after dismissal of renowned researcher. CNBC. https://www.cnbc.com/2020/12/17/googles-ai-ethics-team-makes-demands-of-executives-to-rebuild-trust.html.
- ↑ Hao, K. (2020, December 17). Congress wants answers from Google about Timnit Gebru's firing. MIT Technology Review. https://www.technologyreview.com/2020/12/17/1014994/congress-wants-answers-from-google-about-timnit-gebrus-firing/.
- ↑ Schiffer, Z. (2021, February 4). Two Google engineers quit over firing of ethical AI leader Timnit Gebru. The Verge. https://www.theverge.com/2021/2/4/22266513/google-engineers-quit-timnit-gebru-ethical-ai-april-christina-curley-firing.
- ↑ Schiffer, Z. (2021, February 18). Google is restructuring its AI teams after Timnit Gebru's firing. The Verge. https://www.theverge.com/2021/2/18/22289264/google-restructuring-ethical-ai-team-timnit-gebru-firing.
- ↑ Metz, R. (2021, February 20). Google is trying to end the controversy over its Ethical AI team. It's not going well. CNN. https://www.cnn.com/2021/02/19/tech/google-ai-ethics-investigation/index.html.
- ↑ Google Walkout For Real Change. (2021, March 8). The Future Must Be Ethical: #MakeAIEthical. Medium. https://googlewalkout.medium.com/the-future-must-be-ethical-makeaiethical-9eb3edd7cf3c.
- ↑ Johnson, K. (2021, March 3). AI ethics research conference suspends Google sponsorship. VentureBeat. https://venturebeat.com/2021/03/02/ai-ethics-research-conference-suspends-google-sponsorship/.
- ↑ Vincent, J. (2021 年 4 月 13 日). 谷歌正在用人工智慧研究人員毒害其聲譽. The Verge. https://www.theverge.com/2021/4/13/22370158/google-ai-ethics-timnit-gebru-margaret-mitchell-firing-reputation.
- ↑ Schiffer, Z. (2021 年 4 月 6 日). 在解僱了兩位頂級研究人員後，谷歌人工智慧經理辭職. The Verge. https://www.theverge.com/2021/4/6/22370372/google-research-manager-resigns-timnit-gebru-margaret-mitchell-firing.