这部分内容比较少,虽然是属于上一节偏差方差,但学习曲线是一个独立的小节,就把它单独列出来了。
偏差方差内容在另一篇博文中已经叙述过了,就不再这里详细说明。
关于偏差方差的解析:https://blog.csdn.net/qq_38009970/article/details/87857530
这部分编程练习:https://blog.csdn.net/qq_38009970/article/details/86773482
学习曲线
首先了解一下学习曲线
横轴是样本数量,纵轴是 J(θ)
两条曲线,一条 Jtrain(θ) ,一条 Jcv(θ)
课程中吴恩达老师画的学习曲线是这样的:
我做编程练习的时候,学习曲线是这样的:
用这个只是想说明一下,J(θ) 是一个非常小的值,因为如果只看课程,不做练习,可能会对学习曲线有些误解。
当模型是高偏差时,同样的 Jtrain(θ) 和 Jcv(θ) 相差不大,但都非常高
高方差 Jcv(θ) >> Jtrain(θ)