概率论与贝叶斯先验

最新推荐文章于 2024-10-01 18:25:47 发布

不可描述的两脚兽

最新推荐文章于 2024-10-01 18:25:47 发布

阅读量1k

点赞数

分类专栏：数学文章标签：概率论

本文链接：https://blog.csdn.net/qq_22096121/article/details/103764967

版权

数学专栏收录该内容

3 篇文章 0 订阅

订阅专栏

前言：
复习概率相关知识，很多不太明白，还需要不断丰富

文章目录

一、统计数学的概率
- 本福特定律
二、现实中的概率应用：商品推荐
三、概率公式
- - 思考题
  - 贝叶斯公式 $P(A|B)=\frac{P(B|A)P(A)}{P(B)}$
四、分布
五、指数族
六、事件的独立性
七、切比雪夫不等式
八、伯努利定理
九、中心极限定理
- 例：标准的中心极限定理问题
- 中心极限定理的意义
十、贝叶斯公式带来的思考
十一、最大似然估计

一、统计数学的概率

给定某正整数N，统计从1到N！的所有数种，首位数字出现1的概率。
进而，可以计算首位数字使2的概率，是3的概率……

import matplotlib.pyplot as plt


def first_digital(x):
    while x >= 10:
        x //= 10
    return x

n = 1
frequency = [0] * 9
for i in range(1, 1000):
    n *= i
    m = first_digital(n) -1
    frequency[m] += 1

print(frequency)
plt.plot(frequency, 'r-', linewidth=2)
plt.plot(frequency, 'go', markersize=8)
plt.show()

100阶结果
1000阶结果
10000阶

本福特定律

本福特定律又称第一数学定律，是指在实际生活得出一组数据中以1为首位数字出现的概率约为总数的三成；是直观想象1/9的三倍
- 阶乘/素数数列/斐波那契数数列首位
- 住在地址号码
- 经济数据反欺诈
- 选举投票反欺诈

在这里插入图片描述

二、现实中的概率应用：商品推荐

商品推荐场景中过于聚焦商品推荐往往会损害用户的购物体验，在有些场景中，系统会通过一定成都的随机性给用户带来发现的惊喜感。
假设在某拣场景中，经计算A和B俩个商品与当前访问用户的匹配度都分别为0.8和0.2分，系统将随机为A生成一个均匀分布于0到0.8的最终得分，为B生成一个均匀分布于0到0.2的最终得分，试计算最终B的分数大于A的分数的概率。

可以通过下图面积关系直观的看出B大于A的概率
在这里插入图片描述

三、概率公式

在这里插入图片描述

条件概率： $P(A|B)=\frac{P(AB)}{P(B)}$
全概率公式： $P(A)=\sum_{i}P(A|B_i)P(B_i)$
贝叶斯（Bayes）公式： $P(B_i|A)=\frac{P(A|B_i)P(B_i)}{\sum_{j}P(A|B_j)P(B_j)}$

思考题

在这里插入图片描述
整理题设条件及问题：

通过贝叶斯公式：

贝叶斯公式 $P(A|B)=\frac{P(B|A)P(A)}{P(B)}$

给定某系统的肉感样本x，计算该系统的参数，即： $P(\theta|x)=\frac{P(x|\theta)P(\theta)}{P(x)}$
- $P(\theta)$ :没有数据支持下，θ发生的概率：先验概率
- $P(\theta|x)$ ：在数据x的支持下，θ发生的概率：后视概率。
- $P(x|\theta)$ ：给定某参数θ的概率分布：似然函数
例如：
- 在没有任何信息的前提下，猜测某人姓氏：先猜张王李刘……猜对的概率相对较大：先验概率
- 若知道某人来自”牛家村“，则他姓牛的概率很大：后验概率