深度学习：概率相关知识点

最新推荐文章于 2024-05-23 00:26:30 发布

泛泛之素

最新推荐文章于 2024-05-23 00:26:30 发布

阅读量2.4k

点赞数 1

分类专栏：深度学习

本文链接：https://blog.csdn.net/tonydz0523/article/details/88392012

版权

本文详细介绍了概率分布中的离散型随机变量，包括两点分布、二项分布和泊松分布，以及连续型随机变量的正态分布。讨论了边缘概率、条件概率、独立性与条件独立性，并探讨了期望、方差、协方差以及它们在深度学习中的应用。此外，还提及了贝叶斯定理的重要性。

摘要由CSDN通过智能技术生成

概率分布

概率分布用来描述随机变量（含随机向量）在每一个可能状态的可能性大小。概率分布有不同方式，这取决于随机变量是离散的还是连续的。
对于随机变量X，其概率分布通常记为P（X=x），或X~P（x），表示X服从概率分布P（x）。概率分布描述了取单点值的可能性或概率，但在实际应用中，我们并不关心取某一值的概率，特别是对连续性随机变量，他在某点的概率都是0。因此，我们通常比较关心随机变量落在某一区间的概率，为此，引入分布函数的概念。
定义：设X是一个随机变量，x_k 是任意实数值，函数：称为随机变量X的分布函数。
若随机变量X的分布函数已知，对任意的实数x1、x2（x1＜x2），那么可以求出X落在任意一区间[x1, x2]的概率。

离散型随机变量

设x1, x2, …, xn是随机变量X的所有可能取值，对每个取值xi, X=xi是其样本空间S上的一个事件，为描述随机变量X，还需知道这些事件发生的可能性（概率）。
设离散型随机变量X的所有可能取值为xi（i=1, 2, …, n)：
P(X=x_i)=P_i, i=1, 2, … n
称为X的概率分布或分布律，也称概率函数。

1.两点分布

若随机变量X只可能取0和1两个值，且它的分布列为P(X=1)=p, P(X=0)=l- P，其中(0 < P < 1)，则称X服从参数为p的两点分布，记作X~B(1, p)。其分布函数为：
在这里插入图片描述

2.二项分布

二项分布是重要的离散概率分布之一，由瑞士数学家雅各布·伯努利提出。一般用二项分布来计算概率的前提是，每次抽出样品后再放回，并且只能有两种试验结果，比如红球或黑球。二项分布指出，假设某样品在随机一次实验出现的概率为P，那么在n次实验中出现k次的概率为：
在这里插入图片描述
假设随机变量X满足二项分布，且知道n、p、k等参数，我们可以使用scipy库的stats接口求出各种情况的概率值：

import numpy as np
import matplotlib.pyplot as plt
import math
from scipy import stats
%matplotlib inline
plt.style.use('ggplot')
n = 50
# 获取不同p值情况下的分布情况
p_list = np.arange(0,1,0.2)[1:]
print(p_list)
k = np.arange(0,51)
#定义二项分布
plt.figure(figsize=(16,4))
for i, p in enumerate(p_list):
    plt.subplot(1, len(p_list), i+1)
    binomial = stats.binom.pmf(k, n, p)
    #二项分布可视化
    plt.plot(k, binomial,