推荐系统中的偏差

推荐系统中的偏差

预估问题 我们一般会注重两种误差，偏差和方差，
方差与模型泛化能力有关：通常关注模型的复杂度与是否过拟合；偏差则表现为与真实模型的预估差距的差异，与以即模型的拟合能力有关。
一般来说，简单的模型会有一个较大的偏差和较小的方差，复杂的模型偏差较小方差较大。
除模型的复杂度外，训练数据是否与真实数据分布的差异大小这一点也必须考虑。
我们来看一下数据问题造成的偏差：曝光偏差、选择偏差
数据的真实分布，推荐系统线上预估面临的是真实的分布，模型训练时采用观测到的样本，本身就包括了选择偏差、曝光偏差。这种偏差是系统性的，具备危害。
解决这些偏差有一些方法，在这里写我了解到的3种，IPW （逆概率加权）、DICE(区分兴趣和偏差建模)、因果推断（根据因果关系，使用do算子建模）

IPW ——逆概率加权

因为选择偏差偏差，训练的数据分布 和真实分布存在差异。方法：根据曝光量和曝光量逆向调整权重，简单粗暴，符合逻辑，训练起来不好收敛。

DICE ——区分兴趣和偏差建模

这个方法挺不错的，是一个框架类的去偏方法，将偏差和用户兴趣分开建模，难点是，用户真正兴趣的训练集要怎么构建的问题。