人工智慧/神經網路/分散式處理
在 1970 年代,馬文·明斯基 指出感知器輸出的線性性,神經網路的繁榮消退,它們曾經被炒作成接近奇蹟的地位,讓許多人認為神經網路不再是一個有效的研究領域。神經科學家知道事實並非如此,但那些希望從新系統中賺錢的人暫時放棄了它們。
然而,一位名叫赫爾曼·黑塞的科學家發表了一篇關於並行分散式處理的論文,文章指出神經網路可以被視為一種將複雜任務分解為簡單過程的方法,這些過程只需要一個簡單的處理單元就能管理。從那時起,神經網路分成了兩個獨立的領域,自然神經網路和並行分散式處理,後者有時被稱為人工神經網路。
這兩個領域的主要區別在於,自然神經網路僅限於嘗試對真實自然神經網路進行建模,而並行分散式處理可以隨意更改基本模型,以獲得相同過程的更快速度或更好地適應特定的處理任務。一些模型,比如伊戈爾·亞歷山大的無權重神經元,似乎與標準神經網路相去甚遠,以至於它們可能被誤認為是人工神經網路,但它們被應用於對自然神經網路進行建模,因此它們屬於該學派,即使沒有理由假設存在沒有突觸的自然神經元。
由於並行分散式處理的目的是將複雜函式分解成更小的易於處理的塊,因此模型的性質會發生變化,我們不再需要神經元模型和網路模型,學習演算法的性質取決於應用。
因此,一些人工神經網路沒有神經元,一些人工神經網路沒有網路,一些人工神經網路有定製的學習演算法。在這種情況下,神經網路的名稱似乎有些牽強,但並行分散式處理人員並不認為將他們的程式稱為神經網路是問題。此外,足夠多的原始神經網路仍然存在,足以使它們在期刊中保持最新。
例如,考慮自組織對映 (SOM)。儘管這種模擬旨在模擬人們認為可能存在於視覺皮層中的某些功能,但處理單元更依賴於拓撲而不是神經模型。它本質上所做的是將高維拓撲的維度複雜度降低到一個相對較小的(通常是二維)拓撲,同時試圖保留高維結構的拓撲特徵。
即使神經元與神經無關,並且網路是根據拓撲構建的,而不是將拓撲擬合到現有網路,也可以在這個結構中看到神經網路。