统计学习第二版 第一章习题

1.1说明伯努利模型的极大似然估计、贝叶斯估计中的统计学习方法三要素。伯努利模型是定义在取值为0和1的随机变量上的概率分布。假设观测到伯努利模型n次独立的数据生成结果中有k次结果为1。尝试用极大似然估计或贝叶斯估计来估计结果为1的概率。

解：统计学习方法三要素：模型、方法、算法

就我对书中1.3章理解来说：

1）模型方面：贝叶斯估计与最大似然估计最后寻找都是条件概率

2）方法：最大似然估计是经验风险最小化，贝叶斯是结构风险最小化

3）算法：最大似然估计就是显式的解析解，贝叶斯是用数值计算的方法求解

题意可知伯努利模型的0，1值的概率分布为：

（1）求极大似然函数估计值的一般步骤：

（1） 写出