贝叶斯优化-硬币问题得最大似然估计(1/3)

1.最大似然估计是机器学习领域最为常见的用来构建目标函数的方法，他的核心思想是根据观测到的结果来预测其中的未知参数。即已知样本为D最大似然估计通过最大化P(D|θ)来求解未知参数θ。

最大似然估计-硬币问题的最大似然估计
假设有不均匀的硬币，抛了6次，得到的结果如下D={正，反，反，正，正，正}，现在根据结果来估计θ（硬币抛出正面的概率）。

首先需要最大化P(D|θ):
P(D|θ) = P(正，反，反，正，正，正|θ)
由于硬币正面反面是独立的所以可以得到下面的公式：
P(D|θ) = P(正|θ) * P(反|θ) * P(反|θ) * P(正|θ) * P(正|θ) * P(正|θ)
P(D|θ) = θ(1 - θ)^2 * θ * θ * θ
P(D|θ) = θ^4 * (1 - θ)

令 f(x) = θ^4 * (1 - θ)
求导以后得： f(x)’ = 2θ^3 * (1 - θ)(2 - 3θ) = 0
=> 由于 θ 不等于0，也不等于1，所以原式得：
=> θ=2/3