昨天和家人聊天,突然想到随机梯度性下降法的思想和男女感情的契合亲密发展程度有异曲同工之妙。下面的描述只是笔者的思考,不足之处,请大家指出。
一、随机梯度下降法
对一批样本进行多次迭代,每次迭代时候,通过反向传播各个样本的误差更新各个特征的权重;在每一次迭代中,都是力求尽可能降低样本真实值和预测值之间的差异,多次迭代后逐步达到稳态。
二、情侣感情亲密程度
(1)人生有很多段时光(假设以月为单位,一月为一次迭代,一年则对应12次迭代,以此类推),一段时间对应一次迭代;
(2)在一段时光中(迭代),情侣双方之间一方会明确或者暗示另一方做的某件事情要符合自己的要求(比如出门之前鞋子不要乱放,要放在鞋架上。又比如上完厕所要关灯),这里的一件事对应一条样本,在这一段时间(迭代)会发生很多件事情,也就有很多条样本;对于一件事情(样本)而言,一方的要求就是真实值,而另一方的反馈就是预测值。
(3)一段好的、亲密的感情,需要及时的解决双方的矛盾和不满,即最好在一段时间内解决和降低当下双方的期望之差:尽可能让每一件事情(样本)在双方给出要求(真实值)和反馈(预测值)之间的结果尽可能一致。
(4)随着时间的推移,一月接着一月(一次迭代接着一次迭代),在接下来的每段时间内(一次迭代),情侣双方都不断的磨合(反向传播误差),对每件事(样本)都达到双方一致期望(降低真实值和预测值之间的差异),这样随着时间积累(不断迭代),双方积累的矛盾(误差之和)就会尽可能小,感情会有稳定(随机梯度下降算法的误差比较稳定)。
三、对应过程图示
那么:
错误的感情是:平时不解决矛盾,双方烂在肚子里面,然后在未来的某个时间点突然爆发,这时双方就算有心解决问题也很难消除或者降低双方之间的矛盾了。这不类似随机梯度下降算法为何需要在每一次迭代中都需要反向传播误差,更新样本权重,降低样本真实值和预测值之间差异的原因吗?试想一下,对于随机梯度下降法,如果在前面多次迭代时,只计算和保存误差,在最后一次迭代才反向传播历史保存的全部误差,请问这样的参数更新能有效吗?笔者暂时不做回答。
更多学习笔记可以关注我的微信公众号「kelly学挖掘」,欢迎交流。
-- 未完待续 --