Lentis/奇點

概述

技術奇點，如 雷·庫茲韋爾 所定義，是指“未來一段時間，技術變化的速度會非常快，其影響會非常深遠，以至於人類生活將不可逆轉地發生改變” 。這種假設的現象具有以下特徵

1. 技術事件視界 - 經過此點後，技術變化的速度如此之快，以至於當前預測技術進步的模型不再適用。這在很大程度上是由於
2. 超人類人工智慧的發展 - 當機器超越人類智慧（“覺醒”）或當人類透過技術手段超越自身自然智慧時。這兩種情況都會導致
3. 技術與生物之間的內在聯絡 - 人類體驗不再僅僅是生物性的；它高度依賴於技術。

奇點這個詞是由弗諾·文奇創造的，他發現奇點後預測技術進步的傳統規律的崩潰類似於黑洞周圍物理定律的崩潰。

雖然奇點已成為描述這一事件的公認術語，但關於該事件的價值和意義存在許多不同的觀點。奇點主義者，例如雷·庫茲韋爾，相信奇點並歡迎它的到來。其他人，例如新盧德主義者，則害怕奇點並努力阻止它的到來。還有一些人，例如羅德尼·布魯克斯，則不相信奇點，正如定義的那樣，會發生。在本章中，我們將探討支援和反對理想出現觀點和場景。

支援

庫茲韋爾在人類歷史上的關鍵正規化轉變。

奇點主義者是指相信奇點既可能發生也值得期待的人。雷·庫茲韋爾將奇點主義者定義為“理解奇點並反思它對自己生活的影響的人”。 庫茲韋爾是奇點主義者群體中的重要人物，因為他的著作《奇點臨近》在將這種觀點帶入公眾領域方面發揮了重要作用。

雷·庫茲韋爾是一個有趣而極具爭議的人物。庫茲韋爾從小就是一個電腦神童，他在 15 歲時就編寫了自己的第一個電腦程式。20 歲時，他以 100,000 美元的價格出售了自己編寫的程式。四十年來，庫茲韋爾一直站在模式識別和人工智慧發展的前沿。然而，近年來，庫茲韋爾因其對奇點的貢獻和倡導而聞名。從 2004 年的著作《奇點臨近：活得足夠長以活到永遠》開始，庫茲韋爾提出人類可以透過超越自身的物理侷限來逆轉衰老過程、克服疾病、永生。在《奇點臨近》中，庫茲韋爾提出，這些進展將在 2060 年之前開始出現。庫茲韋爾在 2009 年的著作《超越：永生幸福的九個步驟》中進一步闡述了這些觀點。

庫茲韋爾在 1990 年的著作《智慧機器時代》中首次探討了奇點這一話題。他在 1999 年的《精神機器時代》和 2005 年的《奇點臨近》中更新了提出的觀點。庫茲韋爾基於以下假設：奇點是可以實現的，技術正在以指數級速度發展，人類大腦可以從處理能力和等效技術方面進行量化。庫茲韋爾擴充套件了摩爾定律，證明了技術在整個人類歷史上一直都在以指數級速度發展。庫茲韋爾認為，一旦奇點出現，人類和機器將相互融合，創造出超人，因此該書的副標題是《人類超越生物學之時》。

彼得·戴曼迪斯 博士

雖然庫茲韋爾在奇點主義運動的形成中發揮了重要作用，但他絕非唯一貢獻者。在谷歌和 NASA 的合作下，庫茲韋爾和 彼得·H·戴曼迪斯 博士共同創立了 奇點大學，其使命是“匯聚、教育和激勵一批領導者，他們努力瞭解和促進指數級發展技術的發展，並應用、集中和指導這些工具來應對人類面臨的重大挑戰”。。然而，最近的一場爭議表明，管理層正在利用這些靈感進行免費的知識創新。該大學從非營利組織向營利組織的緩慢轉變激發了大衛·奧爾班等教職工的新想法，“對智慧財產權進行更多控制將幫助大學更快、更有效地應對技術進步和社會變革”。。他們還相信，最好的“幫助人類適應新技術的方法是嚴格保守秘密並將它們轉化為利潤”。。

另一個推廣奇點主義理念的非營利組織是 奇點研究所。 埃利澤·尤德科夫斯基，奇點出現和人工智慧推廣的倡導者，是該研究所的創始人之一，與布萊恩·阿特金斯和莎賓·斯托克爾共同創辦。奇點人工智慧研究所致力於開發能夠帶來奇點的機器，並引用愛因斯坦的名言：“我們面臨的重大問題無法用創造這些問題時的相同思維水平來解決”。 雖然活動較少，但 奇點部落格 認為奇點將帶來“更美好的未來，[以及]更美好的你”。

奇點主義者的一項共同動機是透過超級智慧機器改善未來。他們認為，這些機器將解決困擾人類的重大問題，如貧困、飢餓和疾病。一些人認為這將導致我們完全掌握地球資源，一個 卡爾達肖夫 I 型文明。然而，正如文奇首先指出的那樣，可能很難預測我們智力上的優越者的行動。

反對

比爾·喬伊，Sun Microsystems 的聯合創始人

新盧德主義

與奇點主義者不同，有些群體認為奇點的出現將對人類有害。 新盧德主義者，他們反對許多形式的現代技術，就是這樣一個群體。（值得注意的是，盧德主義並非新現象，它起源於 19 世紀）。新盧德主義者通常認為技術發展是以犧牲其他形式的價值為代價的，例如精神性或與同類建立的社群意識。他們對奇點的反對可以看作是對技術變革更廣泛反對的一個具體例子。

也許最臭名昭著的新盧德分子是 西奧多·卡琴斯基，更廣為人知的是“大學炸彈客”。卡琴斯基反對技術的原因有很多，包括奇點可能導致一小群精英或超級智慧計算機征服世界人口。在卡琴斯基看來，如果人類要生存下去，他們將被降級為家畜的地位 。雖然有些人贊同卡琴斯基的觀點，但他宣傳這些觀點的方法卻很極端。在將近 20 年的時間裡，卡琴斯基實施了一場炸彈襲擊，導致 3 人死亡，23 人受傷 。卡琴斯基的目標是計算機科學家、遺傳學家和一家電腦商店的老闆，目的是阻礙技術進步，製造政治緊張局勢。尼古拉斯·卡爾透過他的部落格“Rough Type”和幾本書以更傳統的方式來解決新盧德分子的擔憂。與卡琴斯基不同，卡爾表達的緊迫感較低，並使用幽默來表達他的觀點。有時，他還直接嘲笑奇點論者，包括雷·庫茲韋爾 。

這兩種方法突出了對奇點的多樣化反對意見。卡琴斯基明確提出，為了避免人類被奴役或毀滅，犧牲少數科學家的生命是值得的。然而，卡爾使用公共話語而不是暴力來最大程度地減少技術進步的風險。在這兩種情況下，最終目標都是一樣的，但實現目標的方法在倫理意義上卻大不相同。

技術研究人員

對奇點的反對不僅僅來自新盧德分子。 比爾·喬伊，Sun Microsystems 的聯合創始人，也是 Java 程式語言的主要開發者，也對奇點表示警惕 。作為一名開發者和計算機技術的倡導者，喬伊在他生命中的大部分時間裡都認為自己的工作對世界產生了積極的影響。與庫茲韋爾的談話讓他意識到奇點，並更加擔心不受控制的技術進步會導致災難。他擔心複雜系統中不可避免地會產生意想不到的後果，例如，抗生素的廣泛使用導致抗生素耐藥細菌的出現。喬伊還創造了一個新術語來解釋他的不安：知識驅動的巨大毀滅，簡稱 KMD。KMD 指的是強大新技術（如基因工程或奈米技術）的破壞潛力，這些技術通常具有自我複製能力，再加上這些技術可供小團體或個人使用這一事實。喬伊認為，第二項屬性尤其重要，並將它與傳統的武器大規模殺傷性武器（WMD）如原子彈進行對比，這種武器的研製需要一個國家的支援和資源 。由於這些因素，喬伊擔心技術進步（如奇點）可能會為人類自我毀滅創造條件。

然而，與新盧德分子不同，喬伊並不希望在技術上倒退。他指出：“我一直堅信科學探索真理的價值以及偉大的工程學帶來物質進步的能力。工業革命在過去的兩百年裡極大地改善了每個人的生活，我一直期望我的職業生涯將包括為實際問題構建有價值的解決方案，一次解決一個問題。” 。相反，他倡導研究新的技術方法，以確保基因工程、奈米技術和機器人技術的安全性。

科學家和工程師經常不得不考慮追求技術進步的倫理問題，例如原子彈和化學武器的開發。此外，儘管計算機智慧的開發在當前狀態下通常是一種和平而富有成效的技術，但它在產生正面和負面意想不到的後果方面都具有巨大潛力。像科技行業中的許多其他人一樣，喬伊的反應不是不惜一切代價阻止技術進步或傳播關於技術弊端的知識，而是努力減輕其負面影響。

現在運動

現在運動的創始人，社會奇點組織，海爾克·蒙廷加擔心，“社會轉型與激進的技術加速相結合”將在五年內帶來下一個奇點 。然而，使用“下一個”這個詞表明蒙廷加對奇點的概念與普遍接受的版本（如果存在的話）不同，在普遍接受的版本中，奇點是歷史上的一個特定轉折點，而不是一個發生多次的事情。他見證了快速的變化，並指出：

“

社會奇點的第一個徵兆已經很明顯了……社會轉型與激進的技術加速相結合將導致一個難以想象的時代。

”

蒙廷加呼籲整合社交媒體和眾包平臺，以便世界能夠相互分享創新、理念和專案。這將建立一個智慧網路，在這個網路中，社會智慧的爆炸式增長將增強“預測、計劃和適應奇點帶來的變化”的能力 。

懷疑論者

並非所有人都同意奇點可以實現。來自麻省理工學院的機器人專家、iRobot 公司首席技術官 羅德尼·布魯克斯 說：

“

我們不必害怕我們的機器，因為我們，作為人類機器，將永遠領先於它們，即機器機器，因為我們將把用來製造這些機器的新技術直接融入我們自己的頭腦和身體中。

”

布魯克斯認為，因為我們將逐步地製造機器，我們將能夠選擇在機器中灌輸哪些特徵。這將使我們能夠避免製造具有“特定條件，導致失控、自我延續的人工智慧爆炸，這種爆炸超出了我們的控制，將我們拋在身後”。然而，這個概念假設那些製造這些機器的人將具有意識、能力和願望，只在他們的創造物中灌輸仁慈的特徵。

像喬納森·斯特雷、喬爾·謝潑德 和阿米特·帕特爾這樣的博主甚至更加謹慎地接受奇點的不可避免性和奇點論者如雷·庫茲韋爾提供的證據。喬納森認為，奇點這個詞定義不清。“沒有人知道機器智慧是什麼。或者，如果我們遇到了它，我們如何識別它……“機器意識”這個詞就更沒有用了，因為我們甚至無法為*人類*定義“意識”這個詞。”

同樣，阿米特·帕特爾批評了雷·庫茲韋爾的“規範里程碑”圖表，指出圖表的形狀（以及由此得出的結論）在很大程度上取決於圖表中選擇的事件。帕特爾認為“變化正在加速，但速度沒有庫茲韋爾認為的那麼快”。正如這些博主所展示的，網際網路讓所有的人，而不僅僅是已出版的作者，都能在全球範圍內分享自己的觀點。

接近奇點

在 1993 年的論文“即將到來的技術奇點：如何在後人類時代生存”中，數學家兼科幻作家弗諾·文奇列出了他預計奇點可能發生的四種方式：

1. 開發具有超人類智慧的個人計算機
2. 大型網路中計算機的“覺醒”
3. 對計算機技術的依賴和操作如此廣泛，以至於使用者可以被認為比人類所能達到的智慧更高
4. 生物認知增強領域的進步，使使用者具有超人類智慧

這些潛在的進展代表了工程領域廣泛的專業知識。將它們聯絡在一起的是一個共同的主題，即模糊人與機器之間的界限。儘管技術尚未發展到奇點，但文奇所識別的幾個領域已經取得了最新進展，這可能會讓奇點更近一步。

生物認知增強

生物認知增強是指對人體的生物或化學進行人工改變，從而提升其智力水平的任何方法。 智力提升藥，也被稱為聰明藥，是最常用的認知增強劑。一些，例如利他能和阿得拉，用於治療行為障礙。另一些，例如咖啡因和菸草，則是常見的興奮劑。 超人類主義 運動的支持者期待著這些增強劑廣泛應用的那一天。他們相信，即使在龐大的人群中智力水平略微提高，也會極大地造福社會，極大地減少貧困並提高生活水平。然而，批評者也提出了倫理方面的擔憂。如果這些增強劑價格昂貴，只有最富有的人才能負擔得起。隨著認知功能的增強，使用增強劑的人將能夠勝過那些不使用增強劑的人。全球範圍內，富人和窮人之間的差距可能會因此急劇擴大。 在更小的範圍內，一些教育工作者對目前認知增強藥物濫用水平表示擔憂。阿得拉、康士達和利他能尤其受到關注。雖然這些藥物不一定能提高智力，但它們確實可以提高注意力，讓學生在服用藥物的情況下比不服用藥物的情況下取得更多成就。利他能首次被開出處方後 70 年，關於服用這些藥丸是否算作作弊的爭論仍在繼續。

腦機介面

腦機介面系統是生物醫學領域一項相對較新的發展。腦機介面系統包含一個感測器，可以分析患者的腦電波並將這些腦電波轉換為運動輸出。目前，這項技術正在開發中，旨在幫助中風恢復者恢復其身體功能，即使他們的神經系統受損。雖然腦機介面技術仍處於起步階段，但它已經在臨床試驗中取得了適度的成功。 雖然這項技術具有明顯的醫療益處，但其應用也引發了一些擔憂。一些人認為，分析腦電波的能力過於強大，任何人都無法使用。一些人擔心這項技術可能會落入壞人之手，並擔心思想自由的喪失。另一些人甚至擔心這項技術可能會發展到不僅可以分析腦電波，還可以控制腦電波的地步。

受奇點恐懼影響的技術

Facebook 人臉識別

2011 年 6 月，社交網站 Facebook 推出了一系列使用人臉識別技術的新功能。這些功能旨在簡化在照片中標記朋友的任務。 據 Facebook 稱，對於大量照片來說，這是一項許多使用者認為很繁瑣的任務，他們希望實現自動化。該新功能一經發布，便立即引起反響。在釋出後的三天內，電子隱私資訊中心 (EPIC) 向美國聯邦貿易委員會提交了一份 "投訴、調查請求、禁令和其他救濟"。主要投訴內容為：

1. 不公平且具有欺騙性的行為
2. 使用者在未經同意或警告的情況下自動“選擇加入”，構成“侵犯隱私”。
3. 從兒童身上收集生物識別資料違反了 1988 年的《兒童線上隱私保護法》。

甚至那些通常讚揚科技進步對公眾可用性，例如科技雜誌 PCWorld 等 “精通技術” 的利益集團，也釋出了 充滿情緒的評論文章，反對 Facebook 的行為。

針對人臉識別功能的憤怒情緒在全球範圍內持續蔓延。根據鮮為人知的 《歐洲資料保護指令》 ，奧地利法學學生馬克斯·謝姆斯請求 Facebook 提供其個人資訊副本。他收到的 1200 頁檔案引發了歐洲關於 Facebook 儲存了多少關於其使用者隱私資料（包括人臉識別檔案）的政治和媒體爭議，這些資料缺乏足夠的安全性，可能導致資料落入惡意人士手中。這導致了愛爾蘭資料保護專員對 Facebook 的隱私和安全實踐進行了審計，愛爾蘭資料保護專員對 Facebook 歐洲都柏林總部擁有管轄權。這一行動受到了高度關注，2011 年 10 月 15 日，Facebook 正式終止了對所有歐洲使用者的人臉識別軟體。 完整故事。

根據哥倫比亞審計資源公司的丹尼斯·阿特爾的說法，將帶來奇點的技術進步正在以指數級速度增長。然而，由於我們的大腦儲存記憶的方式，這種速度難以讓人察覺。阿特爾認為，由於人類大腦的長期記憶儲存容量有限，大腦在預測未來時嚴重依賴於最近的記憶。阿特爾用一些例子來說明這一點，例如 Google、維基百科、核磁共振成像和計算機斷層掃描、犯罪統計分析以及儲存在行動電話中的聯絡資料，這些技術在十年前還不存在，但現在已經變得如此普遍，人們在沒有質疑的情況下依靠它們來做出決定。 Facebook 使用者的數量使得這一近期的（2011 年）事件成為很大一部分人口的“近期記憶”，因此對於研究奇點具有重要的意義。

如果奇點到來，很可能是由多種技術和影響這些技術使用的多種社會因素共同推動產生的。Facebook 案例展示了人們可能會如何反對可能帶來奇點的技術。當人們面對那些他們覺得不安或具有某種威脅性的技術時，他們可能會立即採取強烈的措施，不惜一切代價將其摧毀。

倫理擔憂

機器人技術

Actroid DER 01：一個栩栩如生的機器人女演員

“

嗯，當我們人類對機器產生同理心，以至於不想關掉它的時候，那麼從某種意義上來說，它和活生生的生物有什麼區別呢？我們把它當作活生生的生物來對待。

”

-羅德尼·布魯克斯

“

想象一個世界......在這個世界裡，我們對機器人的感知和我們對同類感知之間的界限變得如此模糊，以至於我們中的大多數人將機器人視為精神、社會和道德存在......我相信，到 2050 年，世界將變成這樣。

”

-大衛·萊維，《與機器人戀愛和性愛》一書作者

科幻作家艾薩克·阿西莫夫的機器人三定律是試圖明確考慮技術所體現的價值觀的著名例子。許多關於奇點的擔憂源於這樣的想法：智慧機器人/其他形式的技術可能能夠為了自己的目標而顛覆人類價值觀（例如，駭客帝國或終結者）。阿西莫夫的機器人三定律試圖建立一套管理機器人的規則，當這些規則得到遵守時，將確保機器人按照人類的利益行事，或者至少不違揹人類利益。無數故事都是基於這些定律寫成的，許多故事都探討了遵守這些定律本身會產生不良後果的想法 。

一個特別與奇點相關的有趣角度已經得到探索，它取決於“人類”和“機器人”之間的區別 。雖然這種區別目前可能不需要那麼微妙，但到了奇點，就很難區分兩者了。事實上，是否應該在奇點出現時引入這種區分是一個有爭議的問題 。

機器替身，一部由喬納森·莫斯托執導的科幻驚悚片，借鑑了這種概念。在未來，人類能夠透過從家中安全地控制機器人來利用他們理想化的形態。影片中呈現的主要衝突是身份的意義。有了這些機器人的克隆體，人類免受社會犯罪的侵害；然而，一個人的個性價值被削弱，而機器會使人的靈魂喪失鬥志。

除了將價值觀程式設計到具有人工智慧的機器人中所涉及的技術問題之外，還有一個同樣艱鉅的挑戰。人們持有的價值觀在文化之間、文化內部以及跨越時間差異很大。這些差異如何調和？它們可以調和嗎？

隨著機器越來越像人類，許多其他倫理問題隨之出現。人類法律和隨後的懲罰是否也適用於機器人？機器人是否受到法律保護？機器是否對其行為負責？如果這些問題的答案都是肯定的，那麼機器何時跨越了僅僅機器與需要像人類一樣對待的感知生命之間的界限？

人類+

該組織以前稱為世界超人類主義協會，探討了機器感知的概念。該國際非營利組織透過倫理地使用技術來促進人類能力的擴充套件。

超人類主義

然而，關於這種整合副作用的問題仍然存在，即如果機器保留了知識會怎樣？根據該組織採用的基本原則

“

我們主張所有感知生命的福祉，包括人類、非人類動物以及未來可能出現的任何人工智慧、改造的生命形式或其他智慧，這些智慧可能是技術和科學進步所帶來的

”

- 超人類主義宣言

從修正案中可以明顯看出，儘管機器表現出感知能力，但在作者看來，感知能力本身具有重要意義。這引發了一個社會困境，即考慮個人與自己高階副本接觸時的舒適度。它引發了關於恐怖谷的概念，在恐怖谷中，人們對人類的相似性感到厭惡。

結論

奇點的模糊性質使得很難用技術手段來描述：奇點需要什麼技術，它何時會發生，後果會是什麼？事實上，關於它是否會發生存在爭議。但這種分歧為對奇點的社會技術分析提供了沃土。由於奇點的定義很鬆散，人們往往會將他們自己對技術的看法投射到奇點上。那些主張努力實現奇點的人，可能被認為對技術改善人類狀況抱有信心。另一些人，比如盧德分子，則持有一種立場，表明他們認為技術進步是以犧牲其他價值觀為代價的。然後是中間立場，由比爾·喬伊這樣的人佔據，他們看到了兩方面的潛力，並相信我們必須積極努力確保技術服務於我們的利益。然而，即使在這些群體內部，也存在不同的觀點。從信件炸彈到線上部落格，這些不同的觀點也以截然不同的方式表達出來。隨著奇點的預期日期臨近，對立的群體將面臨更大的壓力來改進宣傳其觀點的方法。這表明奇點將繼續提出複雜的社會技術問題。

進一步分析

以下領域是進一步研究的良好候選領域

• 限制技術進步的社會成本。例如，技術緩解對生活質量的影響。
• 軍事組織資助實現奇點技術的研發帶來的倫理意義。
• 奇點在流行文化中的呈現。
• 奇點可能發生的各種方式及其社會後果。

• 哪些最近的技術、法律、政策或其他做法被指責為導致奇點？

• 哪些群體提出了最初的指控？
• 哪些群體對指控做出反應並對給定技術等採取了實際行動？

• 哪些最近的技術、法律、政策或其他做法可能導致奇點，但被研究人員、政策制定者、公眾和媒體忽視？為什麼被忽視？

• 一個因素的知名度是否會影響它對奇點的貢獻程度？

• 一項技術的“詭異因素”是否可以很好地衡量它與奇點的關聯程度？
• 立法者對奇點做了什麼？他們如何間接或不知不覺地影響奇點的方法？
• 奇點的宗教意義。例如，部落格The Speculist的作者提出了以下四個問題

• 奇點是否讓我們更接近上帝？
• 上帝是否會在奇點出現？
• 我們是否會創造上帝？
• 我們是否會成為上帝？