过拟合:
实际数据:
过拟合:
不能成功表达除了训练数据以外的其他数据。
解决方法1:增加数据量
方法2:利用正规化L1,L2..regularition
y = Wx,W为机器学习所需要学习到的各种参数,在过拟合中,W往往变化率比较大。为了不让W一次性变化的太大,需要在计算误差值上做一些手脚。这样保证让学出来的曲线没有那么扭曲。
方法3:Dropout regularition
每一次训练中随机失活部分神经元, 让每一次预测结果都不会依赖于某一部分特定的神经元。
过拟合:
实际数据:
不能成功表达除了训练数据以外的其他数据。
y = Wx,W为机器学习所需要学习到的各种参数,在过拟合中,W往往变化率比较大。为了不让W一次性变化的太大,需要在计算误差值上做一些手脚。这样保证让学出来的曲线没有那么扭曲。
每一次训练中随机失活部分神经元, 让每一次预测结果都不会依赖于某一部分特定的神经元。