数学
Zahen
本科大三
未来码农
兴趣广泛
热爱生活
展开
-
信息论与互信息
在信息论中,熵是接收的每条消息中包含的信息的平均量,又被称为信息熵、信源熵、平均自信息量。在信息世界中,熵越高,则能传输越多的信息,熵越低,则意味着传输的信息越少。自信息:1、自信息表示事件发生前,事情发生的不确定性2、自信息表示事件发生后,事件所包含的信息量,是提供给新宿的信息量,也是解除这种不确定性所需要的信息量。互信息:离散随机事件之间的互信息:事...原创 2020-02-19 21:20:52 · 642 阅读 · 0 评论 -
何为最大似然?
似然:在确定的结果下去推测产生这个结果的可能环境。如果用θ表示环境对应的参数,x表示结果,那么概率可以表示为P(x|θ) ,P(x|θ) 是条件概率的表示方法,θ是前置条件,可理解为在θ的前提下,事件x发生的概率,相对应的似然可表示为L(θ|x) 。L(θ|x) 理解为已知已知结果为x,参数为θ(在似然函数里,θ为一变量)对应的概率L(θ|x) =P(x|θ)需要说明的是两者在数值...原创 2020-02-18 19:40:38 · 923 阅读 · 0 评论