漫漫長路

首先 因為機器學習之輸入通常一個多維 vector，而非單一數值，所以最好使 用 numpy

在線性的模型中，輸出 y以及輸入 x的關係是一個 二維空間中的 直 線方程式 y = ax+b ，也就是加權值 a以及 bias b之間的關係 。例如 下圖 就是一 種線性模型，如下圖 1為公式

圖1. 線性模型 

由這個 數學 例子可以看出，雖然這個神經網路有兩層但實際上合成一 層，也就是說只通過線性變換任意的全連接神經網路與單表達能力沒有區別，因此由數學可知現行模型解決問題能力有限。 以下透過 tesorflow遊樂場 模擬線性以及非之神經網路表現，如下圖 4為線性模型在可分割之場 景下之回歸結果，可以看出在 219回就有不錯效果，但圖 回就有不錯效果，但圖 5為線 性模型在非性可分割之場景下回歸結果，即使數更多仍然類效差知線方程已無法表示所有情況。而深度學習主要為解決複 雜問題，也就是線性不可分之 問題，因此若只有線性模型很明顯是不夠應付現實用的。

圖2. 線性模型在可分割之場景下回歸結果 

圖3. 線性模型在非可分割之場景下回歸結果 

而 Sigmoid 為一種非線性激活函數 ，將每個神經元之輸出通過一非線性 將每個神經元之輸出通過一非線性 激活函數來實現去線性化，如下圖 4為加上非線性激活函數以及 為加上非線性激活函數以及 bias之輸出 ， 圖 5為非線性模型在可分割之場景下回歸結果，神經網路已以很 為非線性模型在可分割之場景下回歸結果，神經網路已以很好的劃分不同顏色之兩點

圖5. 非線性模型在可分割之場景下回歸結果