拟合问题

欠拟合,正确拟合,过拟合

Posted by 粘世强 on March 19, 2018

三种拟合方式:

防止过拟合的方法:

  1. 增加数据集:好的数据集胜过好模型

  2. 正则化方法 :是一种防止过拟合的方法,过拟合的特点就是权重参数w的个数太多,因此需要尽量减少w的个数,因此就需要添加正则项,将C作为代价函数进行优化,可以使得C~0~ 和正则项同时达到最小。

    参考机器学习中常常提到的正则化到底是什么意思?

    \(C = C_{0} + \frac {\lambda}{2n} \sum_{w}{w^2}\) 训练模型是的代价函数越来越小,正则化是用来减少网络复杂度的。

  3. Dropout :使用部分神经元进行训练,但是使用所有神经元进行测试。