- 博客(2)
- 资源 (5)
- 收藏
- 关注
RSS订阅原创 经验风险最小化与模型选择
经验风险最小化，是使得>与>之间的值尽量小，这样才能使得我们根据训练数据训练得到的模型有普适性。可以推导出来二者的差值存在一个上界，可以根据这个上界，得到>或者>，进一步可知存在偏差方差平衡。这个上界直观上理解，主要与模型的复杂度（如假设的个数、参数数量等）、训练样本数相关，而且可以直观得得到这个上界与模型复杂度成正相关，与样本数成负相关。这里关于模型复杂度的度量方法，可以用VC维的方式来表征，而
2017-12-10 00:15:59
833
原创 最大熵模型及其算法
最大熵模型表面意义上来讲是使信息熵或者条件熵最大，一般来讲最大熵模型是使条件熵最大的模型。最大熵模型的一些特点：1、最大熵模型的输入输出为X,Y，求解时需要代入p(x,y)的联合概率，即p(x,y)*log(y|x)求和的模型，这个模型里，我们需要求解的是p(y|x)的条件概率，但这里还有p(x,y)的概率，这里为了能够有效的计算模型，这里的p(x,y)用p'(x)*p(y|x)来
2017-12-02 22:18:28
1750
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人