《数学之美》读书笔记

1、最大熵模型：保留全部的不确定性，把风险降到最小。

2、条件概率公式，马尔科夫链P(w2|w1)：已知在W1的前提下，第二个词出现的频率。

使用语言模型需要知道模型中额条件概率，我们称为模型的参数。

3、TF-IDF(term Freq - Inverse Docu FRe) log(D/Dw) DW是总共出现的网页数。

4、目标函数：
目标函数f(x)就是用设计变量来表示的所追求的目标形式,所以目标函数就是设计变量的函数,是一个标量

5、最大期望算法： 两个过程：1、期望值计算、最大化期望值EM算法。
：给出的是局部最佳解，而非全局最佳解。
1、观测数据也叫原始数据，是指直接获得的数据，纷乱无章，经过整理。分析才能从中提取有用的信息。实验数据是做实验中收集到的数据。变异性较大。
2、实验数据指通过实验中控制实验对象以及所处的实验环境收集到的数据。