職業道德/Google 員工與 Maven 專案

谷歌

谷歌 是一家總部位於加州的科技公司，專門從事網際網路服務。他們專注於 線上廣告技術、 搜尋引擎 和 雲計算。谷歌被認為是美國四大科技公司之一，通常被稱為 四大科技巨頭，與蘋果、臉書和亞馬遜並列。 2019 年，谷歌的收入為 1200 億美元，其中約 83% 來自廣告。

Google 員工

根據眾包資料，Google 軟體開發人員的薪酬異常高，大學畢業生的平均總薪酬為 180,418 美元。 這幾乎是大學畢業生軟體工程師的全國平均工資 99,917 美元的兩倍。 員工也受到激勵留在公司，因為股票獎勵等福利需要數年才能 到期。眾所周知，Google 員工會為他們所信仰的事業抗議，例如 2019 年對不公正解僱的抗議 和 2018 年因性騷擾而發起的罷工。

Maven 專案之前的政府合同

2008 年至 2019 年期間，谷歌從聯邦機構的合同中獲得了 4900 萬美元的付款。 這些合同中的大多數涉及廣告服務，例如與衛生與公眾服務部簽訂的一份 352,200 美元的合同，用於在第三方網站和 Google 搜尋結果中投放 HealthCare.gov 廣告。 .

Maven 專案

國防部的難題

國防部 (DOD) 每天都會收集大量全動態影片資料。軍方和民用分析人員必須手動分析這些資料以支援反叛亂和反恐行動，因此國防部需要一種方法來有效地將這些資料轉換為可操作的資訊。 除了資料量問題外，國防部的識別技術只能識別簡單的物體，例如汽車和人，而不能識別更復雜的情況，例如軍事行動中涉及的情況。

專案

Maven 專案，正式名稱為“演算法戰爭跨職能團隊”，於 2017 年 4 月啟動。這是一個與國防部合作的專案，探索在戰場上使用 人工智慧 (AI) 和目標識別。該專案建立了一個監視引擎，該引擎使用政府無人機捕獲的廣域運動影像資料來自動檢測目標，跟蹤它們的運動，並將結果傳遞給國防部。 該系統使用 機器學習 不斷改進分析，並透過自動標記畫面中的目標供分析人員審查，而不是分析人員手動檢查所有資料本身，從而簡化了分析人員的工作。這些演算法不會選擇目標或下達攻擊命令， 但許多人對該專案和 Google 的參與意圖和潛在結果表示擔憂。

反對

2018 年 4 月，Maven 專案啟動一年後，超過 4,000 名 Google 員工簽署了一封致 Google 執行長 Sundar Pichai 的信，要求 Google 退出 Maven 專案。 這封信 包括員工對美國軍方可能將 AI 技術武器化以完善無人機攻擊和其他致命攻擊的擔憂，表明該專案可能有助於無人機作戰行動。 這與 Google 作為一家公司的核心價值觀不符，員工加入 Google 時不希望參與這項工作。這份合同也不會帶來大量的收入，只獎勵 Google 900 萬美元，因此許多人認為，品牌潛在的損害和公眾信任度的下降不值得冒險。 2018 年 6 月，兩個月後，Google 宣佈退出該專案，決定在 2019 年合同到期時不再續約。

支援

支援谷歌參與“Maven 專案”的人認為，美國需要在人工智慧軍備競賽中保持領先地位，因為許多其他國家正在開發人工智慧驅動的軍事行動。支持者還認為，人工智慧必將被應用於戰爭，只是時間問題。如果谷歌不參與，那麼國防部（DOD）將會繼續進行，即使它不得不依賴實力較弱的專家。 由於谷歌以擁有最優秀工程師而聞名，將合同授予資質較低的公司會導致最終產品的質量下降。

國防部的舉措

針對谷歌退出“Maven 專案”以及公眾對此專案表達的擔憂，國防部制定了兩個舉措。

• 聯合人工智慧中心 (JAIC)：一個卓越中心，負責管理軍方所有的人工智慧行動。該中心的最初重點是人道主義工作，以提升公眾關係。其第一個重大舉措是使用人工智慧來組織軍方對自然災害的搜尋和救援響應。
• 國防創新委員會：一個由技術專家組成的諮詢小組，致力於審查人工智慧倫理並制定軍事人工智慧使用的原則。該小組將與人工智慧專家舉行公開會議，討論如何將人工智慧整合到武器計劃中，或不應該將其整合到武器計劃中，然後向國防部長提交建議。

倫理和職業考量

谷歌員工表示擔心參與“Maven 專案”會損害未來的招聘工作，並使公司與 Palantir、雷神和通用動力等公司處於相同的光環下，這些公司被推測參與了有爭議的商業活動。

員工還承認，微軟和亞馬遜等公司參與某些專案是谷歌參與該專案的充分理由，他們指出，谷歌的歷史、觸達數十億使用者的實力以及“不要作惡”的座右銘（現已從行為準則中刪除） 將其與其他公司區分開來。員工認為，谷歌不應僅僅因為其他公司參與了風險專案，就參與到這些專案中。

倫理考量

員工不太願意參與一個幫助軍事監視的專案，並對該專案在更具攻擊性的情況下被使用表示擔憂。 谷歌雲執行長黛安·格林（Diane Greene）保證，這項技術不會被用於發射武器或操控無人機等用途。員工相信，由於它是軍事軟體，無法保證它不會被用於協助這些任務。 一旦產品交付，工程師就無法干預其使用。

職業考量

員工希望維護谷歌宣稱重視的自身與使用者之間的信任，尤其是在人們越來越擔心人工智慧的偏見和武器化的情況下。 他們認為，谷歌有責任絕不損害使用者對公司的信任。 如果僅僅因為人們對公司部分業務持有負面看法，就難以維持信任，那麼積極參與直接影響人們對公司信任的事情，並不能起到幫助作用。

有爭議的無人機使用

員工之一的問題是，這項技術有可能被用於操控或發射武器和無人機。 許多人支援使用軍用無人機，也有人認為這走得太遠。一個擔憂是，無人機的精確度不夠理想，會導致平民傷亡。 雖然無法確定確切的平民傷亡人數，尤其是在特朗普政府推翻了美國軍方釋出空襲平民傷亡年度報告的強制要求後，但有些人認為，無人機打擊可以容忍的平民死亡人數上限應該非常低。

另一個擔憂是，無人機打擊有可能加劇其本應阻止的恐怖主義。被襲擊者家屬中懷恨在心的人，甚至那些對本國遭受攻擊感到憤怒的人，可能想要報復，就像“時代廣場炸彈客”事件中所發生的那樣。 這會導致原本可能不會發生的恐怖主義行為，當然，我們永遠無法確定是否真是如此。雖然有些人認為，在軍用無人機使用方面，利大於弊，但其他人可能會認為，任何弊端都是不允許使用無人機的理由。

持久影響

“Maven 專案”現狀

Palantir 在 2019 年接管了“Maven 專案”，此前谷歌沒有續簽合同。Palantir 的執行長亞歷克斯·卡普（Alex Karp）以及 Palantir 作為一個組織都認為，大型科技公司有愛國義務去做美國政府要求的任何事。 Palantir 的創始人彼得·泰爾（Peter Thiel）甚至聲稱，“谷歌應該受到聯邦調查局和中央情報局的調查，因為該公司似乎背叛了美國，選擇與中國軍隊合作，而不是與美國政府合作”。 Palantir 過去曾參與過許多政府合同，包括建立 ICE 和 CBP 的監控網路以及為警方構建繞過搜查令程式的軟體。

“Maven 專案”後政府合同

當前的政府國防合同以非此即彼的方式運作，公司必須提供合同中的所有服務，而不能將合同拆分給多個投標人。 2018 年，Google 決定不競標名為聯合企業防禦基礎設施 (JEDI) 的 100 億美元雲計算合同。^[21] 這一決定是由於 Google 無法保證合同將符合其 AI 原則，並且只希望提供合同的一部分服務。 Google 發言人表示：“如果 JEDI 合同對多個供應商開放，我們會提交一份針對部分內容的具有說服力的解決方案。Google Cloud 認為，多雲方法符合政府機構的最佳利益，因為它使他們能夠為正確的負載選擇正確的雲。”^[21]

Google AI 原則

自 2018 年以來，Google 一直維護著 AI 專案的道德原則列表。^[22] 這些原則作為 Google 進一步合同選擇和執行的指南。 該列表分為兩類：AI 應用程式的目標和我們不會追求的 AI 應用程式。 更多資訊可以在 Google 的 網站 上找到。

1. AI 應用程式的目標
   • 對社會有益。
   • 避免創造或強化不公平的偏見。
   • 為安全而構建和測試。
   • 對人們負責。
   • 融入隱私設計原則。
   • 堅持高水平的科學卓越性。
   • 使 AI 應用程式可用於符合這些原則的用途。
2. 我們不會追求的 AI 應用程式
   • 可能造成或可能造成整體危害的技術。 在存在重大危害風險的情況下，我們只會在我們認為利益大大超過風險的情況下進行，並將納入適當的安全約束。
   • 主要目的或實施是造成或直接促進對人造成傷害的武器或其他技術。
   • 違反國際公認規範收集或使用資訊進行監控的技術。
   • 目的違反國際法和人權普遍接受原則的技術。

結論

Google 員工希望 Google 放棄 Maven 專案的原因在他們的信中列出了幾個，但總的來說，他們認為 Google 不應該從事戰爭業務。 儘管這封信只包含一小部分員工的簽名，但信的內容引發了需要解決的問題，這些問題需要在嘗試判斷個人和公司參與某個專案的道德性時予以解決。 對於一些員工來說，Maven 專案與他們的道德或職業價值觀不符，他們採取措施進行糾正。 在這種情況下，員工們提出了強有力的論點，這很可能幫助 Google 決定不再續簽 Maven 專案合同。