120 likes | 441 Views
類神經網路之感知機簡介. Reporter : Ya-Zhong, Chen Network Application Lab. Outline. 序論 感知機 倒傳遞類神經網路 應用. 序論. 人的智慧源自於不斷的學習與成長,類神經網路需有良好的訓練學習機制。 學習演算法 就是一套權重調整的演算法,藉由演算法逐步地調整神經元間連結的權重,使其達到最佳的數值。 依據有無目標輸出值的學習過程,分為 監督式學習( supervised learning ) 非監督式學習( unsupervised learning ) 辨識常用的學習法─ 感知機 。. 序論.
E N D
類神經網路之感知機簡介 Reporter:Ya-Zhong, Chen Network Application Lab.
Outline • 序論 • 感知機 • 倒傳遞類神經網路 • 應用
序論 • 人的智慧源自於不斷的學習與成長,類神經網路需有良好的訓練學習機制。 • 學習演算法就是一套權重調整的演算法,藉由演算法逐步地調整神經元間連結的權重,使其達到最佳的數值。 • 依據有無目標輸出值的學習過程,分為監督式學習(supervised learning) 非監督式學習(unsupervised learning) • 辨識常用的學習法─感知機。
序論 • 樹突的主要功能就是接受其它神經元所傳遞而來的信號。 • 若導致位於軸突丘的細胞膜電位超過某一特定閥值 (threshold)時,則所謂的「活化電位」(action potential) 的脈衝就會被激發出來。 • 藉由管狀似的軸突傳遞至其它相連接的神經元。 • 軸突的終點處是「突觸」,這種細胞間的信號傳遞以化學性的方式居多。
序論 • 我們可以用以下的數學式子來描述類神經元的輸入輸出關係: • 其中 代表第 i 維輸入至第 j 個類神經元的鍵結值; • 代表這個類神經元的閥值; 代表 p 維的輸入; • 代表第 j 個類神經元所獲得的整體輸入量, • 代表活化函數; • 則代表了類神經元的輸出值,也就是脈衝頻率。
序論 單層前饋網路 多層前饋網路
權重 W 第 j個神經元 實際輸出 wj1 x1 輸入向量X wj2 x2 yj wjn Wj + xn dj 目標 X 感知機 單層感知器 (Single-layer perceptron) • 活化函數為二值門檻函數: • 監督式學習: • 實際輸出與目標輸出均為1,所以權重的調整僅發生在實際與目標兩者輸出不一致時。
感知機將○及 ╳分成兩類 XOR problem 多層前饋式網路可以解決XOR問題 感知機 • 單層感知器因其活化函數為兩值門檻函數,可以將它看成是在超平面(hyperplane)上作線性分割(linear separate),對於在超平面上非線性的分割,感知器無法處理。 • 其後相關研究發展了多層感知器(multilayer perceptrons, MLP),並證明其可以處理複雜的非線性問題。
倒傳遞類神經網路 • 倒傳遞類神經網路的架構為多層感知機(MLP) • 一般使用的學習演算法為誤差倒傳遞演算法(Error Back Propagation, EBP),簡稱為 BP演算法 • (MLP + EBP)稱之為 倒傳遞類神經網路 或 BPN
倒傳遞類神經網路 BPN所使用的活化函數
應用 • 倒傳遞類神經網路常用於: • 1. 分類、診斷 • 2. 函數推估、預測 • 3. 訊號處理 • 4. 非線性控制系統 • 實例 • 影像辨識系統(例:指紋識別、衛星遙測影像分析、醫學影像識別) • 訊號分類 • 其他資訊應用(例:雷達訊號分類、聲納訊號分類)