人工神經網路/學習正規化
< 人工神經網路
有三種不同的學習正規化可用於訓練神經網路。監督學習和無監督學習是最常見的，兩種方法之間的混合方法也越來越常見。
監督學習是一種技術，其中提供系統的輸入和預期輸出，並使用 ANN 來模擬兩者之間的關係。給定一個輸入集x，以及一個相應的輸出集y，需要確定一個最佳規則，使得
這裡，e 是需要最小化的近似誤差。輸入值被提供給網路，網路產生一個結果。將該結果與預期結果進行比較，該誤差訊號用於更新網路權重向量。當我們希望網路再現特定關係的特徵時，監督學習很有用。
在無監督學習中，提供資料和一個成本函式，該函式是系統輸入和輸出的函式。ANN 被訓練以透過找到合適的輸入-輸出關係來最小化成本函式。
給定一個輸入集 x，以及一個輸入和輸出集的成本函式g(x, y)，目標是透過適當選擇 f（x 和 y 之間的關係）來最小化成本函式。在每次訓練迭代中，訓練者將輸入提供給網路，網路產生一個結果。該結果被放入成本函式中，總成本用於更新權重。權重不斷更新，直到系統輸出產生最小成本。在已知成本函式但不知道在特定輸入空間上最小化該成本函式的資料集的情況下，無監督學習很有用。