Statistical 英语-1

supervised learning
semi-supervised leaning
unsupervised learning
reinforcement learning 强化学习

hypothesis space 假设空间
parameter space 参数空间

likelihood loss function 似然损失函数
quadratic loss funtion 平方损失函数
risk function 风险函数
expected function 期望损失
empirical loss 经验损失

empirical ris minimization ERM 经验风险最小化
Maximum likelihood estimation 最大似然估计
regularization 正则化
penalty term 惩罚项

Maximum posterior probability estimation 最大后验概率
Least squares 最小二乘法== 平方损失法
cross validation 交叉验证
evaluation criterion 评价准则

Model Strategy algorithm

Feature vector 特征向量


odds 几率


最大熵原理 maximum entropy model -- 概率模型中，熵最大的模型是最好的模型
熵满足不等式 0 =< H(D) <= log|x|


最大熵模型的学习方法： improved iterative scaling 迭代尺度法