人工智慧/神經網路/簡介

人工智慧從神經科學領域獲得了相當大的啟發。神經科學是研究神經系統，特別是大腦的學科。大腦如何使人類思考一直是一個謎，直到今天。但該領域的重大飛躍使科學家能夠接近大腦內部思維過程的本質。

瞭解大腦的結構

獼猴體感皮層中的高爾基染色神經元。

大腦是一種果凍狀結構，由灰質構成，灰質不堅硬，無法在顯微鏡下解剖檢查，直到 1873 年，卡米洛·高爾基開發了一種染色技術，使人們能夠觀察構成大腦的元素。與構成身體器官基礎的其他細胞不同，觀察者在研究大腦時發現了一些令人震驚的東西。腦細胞或神經元與身體中的任何細胞都不一樣。

在聖地亞哥·拉蒙·卡哈爾的著作中，人們宣稱神經系統的主要單位是神經元。與許多人程式設計中使用的傳統方法一樣，神經元具有三個基本功能：它接收來自其他神經元的訊號作為輸入，處理這些訊號，並將訊號傳送到其他神經元。由於早期的科學家認為大腦的思想是由這種神經元的網路產生的，因此他們著手複製這種網路的結構。於是，第一個人工神經網路誕生了。

人工神經網路

由於當時關於神經網路的資訊非常缺乏，沃倫·麥卡洛克和沃爾特·皮茨在 1943 年坐在一起試圖解釋大腦的工作原理，展示了單個神經元如何在網路中與其他神經元進行交流。他們的論文很大程度上基於諾伯特·維納的反饋理論，他們在原子層面的心理學方面的論文讓馬文·明斯基和迪安·埃德蒙茲十分著迷，以至於他們在 1951 年用 300 個真空管和 B-24 轟炸機的剩餘自動駕駛儀建造了第一個神經網路

1958 年，康奈爾大學的弗蘭克·羅森布拉特教授提出了感知機。稍後，1969 年，馬文·明斯基和西摩·帕珀特出版了一本名為《感知機》的書，書中指出了感知機計算的線性性質。這扼殺了感知機產生的興趣，神經網路經歷了第一次低谷。

神經網路研究經歷了許多這樣的低谷，因為新的方法被創造出來，它們顯示出短暫的希望，被過度宣傳，並遭受了一些挫折。然而，科學家們總是回到這項技術，因為它是一種真正的嘗試，儘管存在炒作，但它試圖模擬神經機制。

神經網路可以大致分為神經模型、網路模型和學習規則。最早的數學模型是在麥卡洛克和皮茨之前，他們開發了第一個網路模型來解釋訊號如何在網路中從一個神經元傳遞到另一個神經元。當您聽到網路被描述為前饋網路或反饋網路時，它們是在描述網路如何將一層中的神經元連線到下一層中的神經元。維納的工作使麥卡洛克和皮茨能夠描述這些不同的連線型別將如何影響網路的操作。

在前饋網路中，網路的輸出不會影響產生該輸出的層的操作。然而，在反饋網路中，一層之後的輸出層反饋到之前的層中，會影響之前層的輸出。本質上，資料在兩層之間迴圈，然後回到起點。這對控制電路很重要，因為它允許來自先前計算的結果影響下一個計算的操作。這意味著第二次計算可以考慮第一次計算的結果，並由它們控制。維納在控制論方面的研究是基於這樣的想法，即反饋迴路是控制電路的有用工具。事實上，維納創造了術語控制論，它來源於希臘語 kybernutos，即伊利亞特中提到的一個虛構船隻的金屬舵手。

神經模型的範圍從具有浮點輸出的複雜數學模型到具有二進位制輸出的簡單狀態機。根據神經元是否包含學習機制，神經學習規則可以像早期學習規則那樣簡單，例如每次神經元激發時就會為突觸增加權重，並隨著時間的推移逐漸降低這些權重，如早期學習規則、在反向傳播網路中根據某個誤差函式應用增量值的增量規則，到基於突觸的生化過程和激發過程的突觸前/突觸後規則。訊號可以用二進位制、線性、非線性以及尖峰值進行計算，用於輸出。

如今，實際上有數百種不同的模型，它們都稱自己為神經網路，即使其中一些模型不再具有神經模型，或者不再實際需要網路來實現類似的效果。由於科學家尚未完全描述哺乳動物神經細胞或神經的結構，因此我們必須承認，現在我們必須等待最終的神經模型，然後才能擁有最終的神經網路。與此同時，這是一個豐富的研究領域，因為它有可能既具有現象學意義，又具有計算意義，因此可能比單純的計算模型更廣泛地捕捉大腦的操作。