專業主義/比爾·喬伊與技術風險

比爾·喬伊

1982年，比爾·喬伊與其他幾位伯克利畢業生共同創立了Sun Microsystems。在Sun期間，他進一步確立了自己在計算機軟體設計領域的領導地位，開發了Java平臺和網路檔案系統（NFS），後者允許使用者透過網路訪問檔案。在Sun工作期間，喬伊目睹了技術的快速發展，並對變化的速度感到震驚。2000年4月，他為《連線》雜誌撰寫了"為什麼未來不需要我們"一文。在文章中，他表達了自己對技術進步方向和速度的擔憂。他討論了自己對自我複製機器人的恐懼，以及21世紀知識的傳播如何促進遺傳學、奈米技術和機器人技術（GNR）的進步。

個人經歷

喬伊從小就展現出作為數學家的天賦，在高中階段表現出色，並在密歇根大學學習了高階課程，在那裡他獲得了電氣工程學士學位，並首次接觸了計算機。他對能夠解決問題的機器的想法著迷，並對正確和錯誤有著清晰的概念。喬伊繼續在加州大學伯克利分校深造，獲得了計算機工程碩士學位。在伯克利期間，喬伊與計算機系統研究小組合作，並因開發了BSD Unix而受到認可，蘋果公司最終以此為基礎開發了自己的Mac OS X作業系統。喬伊還在伯克利期間開發了至今仍在使用的文字編輯器vi和csh。目前，喬伊是風險投資公司Kleiner, Perkins, Caufield & Byers的合夥人，該公司專注於IT、生物技術和綠色技術。

為什麼未來不需要我們

理念與疑慮的引入

喬伊在文章開頭回顧了自己對新技術的擔憂是如何產生的。在與約翰·瑟爾和雷·庫茲韋爾的談話中，喬伊開始認真對待可能對人類社會產生更大影響的獨立技術的威脅。他講述了庫茲韋爾是如何說“技術的進步速度將會加快，我們將變成機器人，或者與機器人融合，或者類似的事情。”

喬伊談到，這些曾經看起來異想天開的想法，突然從兩位他非常尊敬的專業人士口中說出，變得真實起來。在那次談話中，庫茲韋爾帶了一份他即將出版的小說《心靈機器時代》的副本。喬伊讀了一段摘錄，並被特德·卡欽斯基的一段話進一步困擾。卡欽斯基在其中暗示並推論，“人類很容易讓自己陷入對機器的依賴狀態，以至於除了接受機器的所有決定之外別無選擇。隨著社會及其面臨的問題變得越來越複雜，機器變得越來越智慧，人們會讓機器為他們做出更多決定，僅僅因為機器做出的決定會比人類做出的決定帶來更好的結果。”

知識的探索

喬伊認為，日益發展中的技術所帶來的問題根源在於對知識永無止境的追求。他認識到知識是好的，求知的慾望是人性的一部分，但他質疑知識的必要性，尤其是在以犧牲人類為代價的情況下。他聲稱，保護我們自己的唯一方法是限制或放棄我們對知識的追求。他引用尼采的話，稱“‘真理意志’或‘不惜一切代價追求真理’”是危險的。喬伊認為，無限獲取知識可能會導致人類的滅亡。

NBC與GNR

喬伊對不惜一切代價追求真理的疑慮直接關係到他對21世紀遺傳學、奈米技術和機器人技術（GNR）進步中技術進步的擔憂。

在“為什麼未來不需要我們”中，喬伊將GNR與20世紀的核、生物和化學（NBC）技術進行了類比。他聲稱，對真理和知識的追求導致人類將自身置於自我毀滅的邊緣。喬伊討論了原子彈的研製是如何為了持續進步而繼續進行的，並且如果它沒有被阻止，就會導致人類的終結。

喬伊提出了一個問題：人類是否正朝著同樣的方向發展GNR技術，以及需要採取什麼措施來阻止知識的傳播。更讓他害怕的不是我們用不同的技術做著同樣的事情，而是GNR比NBC更容易傳播。NBC技術需要難以置信的時間、空間和金錢資源。而對於GNR，由於推進和實施這些技術所需的資源要少得多，因此掌握如何使用它們的知識就足以真正地使用它們。將這一事實與當今社會知識傳播範圍的擴大結合起來，喬伊對我們的未來感到擔憂。

媒體示例

雖然喬伊的擔憂似乎有些牽強和瘋狂，但很明顯，許多人都有這些擔憂。簡單地看看當今的媒體，很容易發現他的恐懼是許多電影、電視劇和其他流行文化來源的共同主題。

《駭客帝國》、《終結者》和《地球靜止日》就是最好的例子。

喬伊的倫理觀

雖然喬伊主要對未來提出了悲觀的看法，認為如果沒有科學界的充分行動，未來將是黯淡的，但他對工程師和科學家需要採取哪些行動來避免這種發展卻說得不多。具體來說，他沒有給出任何能夠幫助同事的準則或指南，也沒有闡明他認為真正的專業工程師應該是什麼樣。然而，他確實引用了一些他認為在科學探索中人們需要牢記的原則或短語。從這些陳述以及他概述的其他理念中，可以創建出一個推演出的“指南”，部分涵蓋了喬伊對職業道德的態度。以下列表絕不是比爾·喬伊的作品或觀點，而僅僅是作者做出的推演假設。它的目的是引導工程師遠離可能導致對人類社會有害的技術發展或科學突破的行為或傾向，從而避免喬伊的末日預言。

理解並尊重自然秩序和自然選擇。

喬伊反覆提到，如果我們創造出比我們進化適應性更強的存在，那麼根據自然選擇，它們將不可避免地超越我們，並最終導致我們滅絕。這句話旨在傳達這樣一個觀點：混亂的自然秩序對我們或任何其他物種都沒有偏好，我們都受其規則支配。此外，一般來說，自然生態系統也具有一定的秩序，而創造可能打破這種平衡並對當地或全球生態系統造成破壞的技術或生物有機體。

在追求技術進步的過程中保持謙遜

喬伊認為，在科學發現的過程中，我們往往過於自負地誇大自己的能力。從本質上講，科學界必須剋制狂妄自大，因為存在我們不知道或尚未完全研究的力量，以及仍然不受我們控制的力量。類似於核技術，我們常常在維持系統控制和完全失敗或毀滅之間搖擺不定。

瞭解人造系統的脆弱性和低效性。

與前一點類似，但這更針對我們社會本身的脆弱性，而不是我們創造物的脆弱性。從他從事計算機的工作中，喬伊意識到，即使是他最強大的計算創造物，也仍然容易因單個方面出錯而完全失敗。他用這個隱喻來描述社會，以及儘管我們認為社會具有靈活性並且能夠生存，但一個不可預見的因素攻擊我們生活的關鍵方面可能會導致整個社會結構崩潰。例如，我們對電力供應的依賴使我們在電網突然失效或被惡意人工智慧控制的情況下容易受到危險。

拒絕不惜一切代價追求真理的理念。

這一點相對簡單：目的並不總是能證明手段的正當性。在喬伊看來，手段可能會導致產生與最初目的相反的結果。例如，對奈米技術癌症治療的研究可能會無意中導致一種自我複製的蛋白質抑制劑，從而抑制人類正常細胞的發育。與其將科學視為一個必須瞭解所有知識的領域，不如讓科學家或工程師在發現的過程中保持謹慎，並將其視為對生命的一種潛在危害。他並不是說所有發展都必須用恐懼和懷疑的眼光來看待，而是說某些技術存在明顯的危險，並且應謹慎對待它們在所有方面（包括有益和有害）的全部潛力。

知識不能成為不作為的藉口。

喬伊對現代科學界最常見的批評之一是，儘管許多傑出成員和普通成員都認為失控的技術是很有可能的，但他沒有看到他們為此做任何事情的跡象。因此，即使你瞭解了一個問題或可能的未來，你也有責任對該問題做出回應。這也與喬伊對舉報人的看法密切相關，他認為舉報人實際上正處於技術開發的過程中。

意識到你的行為的後果，包括直接後果和間接後果。

這一原則貫穿於所有其他原則，並定義了應對不利情況的最安全方法。從本質上講，它意味著在進行科學創造或工程創造的過程中，創造者必須意識到這種技術可能被濫用、失控、直接造成危險或在錯誤的人手中被操縱的各種方式。但是，人們還必須設想如何進一步開發這項技術或將其整合到其他技術中，這可能會使其具有潛在的危害性。這個原則很簡單，但說起來容易做起來難。

最後，喬伊建議，“為了驗證合規性，要求工程師和科學家採用嚴格的道德行為準則，類似於希波克拉底誓言，並且他們必須有勇氣在必要時進行舉報。”