三种拟合方式:
防止过拟合的方法:
-
增加数据集:好的数据集胜过好模型
-
正则化方法 :是一种防止过拟合的方法,过拟合的特点就是权重参数w的个数太多,因此需要尽量减少w的个数,因此就需要添加正则项,将C作为代价函数进行优化,可以使得C~0~ 和正则项同时达到最小。
\(C = C_{0} + \frac {\lambda}{2n} \sum_{w}{w^2}\) 训练模型是的代价函数越来越小,正则化是用来减少网络复杂度的。
-
Dropout :使用部分神经元进行训练,但是使用所有神经元进行测试。