漫漫長路

定義: cost function為監督式 學習中用來計算預測值與真實質的誤差，公監督式 學習中用來計算預測值與真實質的誤差，公如圖 1，hypothesis唯一 映射函數 ( h maps from x’s to y’s ) ，輸入 已知資料 (x)，得到 預測值(y)；θ為可變變數，x、y之上標代表 為第幾筆樣本，m為樣本 總數，調整 θ使的 cost function得到 最小值，則此 θ組成的 hypothesis function為之最佳 linear regression預測函 式。1/2m分母的 2是為了 使之後微分 方便，除 以 m是為了 使平均誤差縮小。

圖1. 簡單 的 Hypothesis function與 Cost function公式

討論: 以上 損失函數的定義在某些問題上不算最佳， 例如 當有一個需求 是 計算 產品銷量， 若產品利潤 10元，成本 1元。當預測少了一個產品銷量店家 損 失為 10元， 預測多了損失才 1元， 這時使用平均方誤差是不利於整體收益的， 因為成本 與利潤並不對等。可以對 cost function做改善，例如當預測值小於實 際值時， cost較大；反之， cost較小。

Reference

1. Deep Learning – Coursera
2. 《Tensorflow實戰google深度學習架構》