小白学python-概率论与贝叶斯先验

概率论基础:

统计数字的概率:

1、给定某正整数N,统计从1-N!的所有数,首位数字出现1的概率

2、进而,可以计算首位数字是2的概率,是3的概率,从而得到九点分布

本福特定律:

实际生活中得出的一组数据中,以1为首位出现概率约为总数的三成;是直观想象的三倍

1、阶乘、素数数列、斐波那契数列首位

2、住宅地址号码

3、经济数据反欺诈

4、选举投票反欺诈

示例:

商品推荐

公路堵车概率模型:Nagel-Schreckenberg交通流模型

概率公式:

1、条件概率

2、全概率公式

3、贝叶斯公式:先验概率、后验概率、似然函数

分布:

1、两点分布

2、二项分布(Bernnoulli distribution)

3、泊松分布:服务设施在一定时间的人数、电话交换机接到呼叫的人数、机器出现故障数、一块产品上的缺陷数

4、均匀分布

5、指数分布:无记忆性  Gaussian 分布属于指数族分布

6、正态分布:一元、二元正态分布

7、Beta分布:Sigmoid Logistic 函数(之字形曲线)

事件的独立性:

给定A和B是两个事件,若P(AB)=P(A)P(B),则这两个事件独立。

期望的性质:离散型、连续型、概率加权下的平均值

无条件成立:E(kX)=kE(X)    E(X+

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Python中,手动实现贝叶斯分类器需要理解基本的概率论贝叶斯定理,并利用这些概念来构建一个简单的分类器。贝叶斯分类器的核心思想是根据先验概率和条件概率来预测给定样本的类别。下面是一个基础的手工实现朴素贝叶斯分类器的例子,使用的是高斯朴素贝叶斯模型: ```python import numpy as np class NaiveBayesClassifier: def __init__(self): self.classes = [] self.class_priors = {} self.mean = {} self.variance = {} def train(self, X, y): self.classes = np.unique(y) for c in self.classes: X_c = X[y == c] self.class_priors[c] = len(X_c) / len(y) self.mean[c] = X_c.mean(axis=0) self.variance[c] = X_c.var(axis=0) def predict(self, X_test): predictions = [] for x in X_test: posterior = {} for c in self.classes: likelihood = self.gaussian_likelihood(x, self.mean[c], self.variance[c]) prior = self.class_priors[c] posterior[c] = likelihood * prior max_prob_class = max(posterior, key=posterior.get) predictions.append(max_prob_class) return predictions def gaussian_likelihood(self, x, mean, variance): normalizer = (2 * np.pi * variance)**-0.5 return normalizer * np.exp(-0.5 * np.linalg.norm((x - mean)**2, axis=1) / variance) # 使用示例 X_train = ... # 训练据 y_train = ... # 训练标签 clf = NaiveBayesClassifier() clf.train(X_train, y_train) X_test = ... # 测试据 predictions = clf.predict(X_test) ``` 在这个例子中,我们首先定义了一个`NaiveBayesClassifier`类,然后实现了训练(`train`)和预测(`predict`)方法。训练方法计算每个类别的先验概率和特征的均值和方差。预测方法则使用高斯分布(朴素贝叶斯假设特征独立)计算每个类别的后验概率。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值