本文所有例子纯属个人理解
例:女生一般都有自己的偏好。如果一个男生喜欢一个女生,为了追到她,经常会去迎合她的爱好和习性。比如只喝温水、每天至少通一次电话,电话等对方先挂、每天发晚安,给对方买零食、出去吃饭主动买单,袜子衣服分开洗,节日买礼物……,这个就是属于这位女生的个人特征,也是男生追女生时所谓的“经验”。但并不是把这些事情做到就可以了,也许某一天这个女生会觉得男生每天忙于自己的事情,不够关心她而分手。
过拟合:当你再找女朋友时,拿出上一任的“经验”,可能会发现效果并不好。这是因为每个女生的偏好是不同的,过度依赖之前所学到的特征,不一定会有好的结果。由此,你就陷入了过拟合的情况。
解决过拟合的方法:当然是增大训练的数据量。多交几个女朋友,多了解一些不同女生之间的偏好。当你把全世界所有女生的偏好都学习过之后,还有你追不到的女朋友吗?但是,现实中没有这么多女朋友来供你学习,并且男生交女朋友的次数越多,只会被认为越渣,会降低个人的其他分数值。只能选择适量丢弃法,选择性的学习女朋友的爱好,这样学到的特征会更具有普适性。当然,这样也会有概率学不到比较偏的个人癖好。
欠拟合:你连第一个女朋友的没有追到,她的偏好都还没学习全。当然追不到下一任。
解决欠拟合的方法:提高自身魅力(增加模型复杂度)。
完美拟合:当你在追第一个女生的时候,自身具有一定的人格魅力(模型复杂度较高),并且没有完全去迎合这个女生的爱好,就成功了。毕竟存在“个人癖好”,“一见钟情” 这种特殊的特征。