朴素贝叶斯分类算法(matlab实现)

一、原理:

对于两个事件A,B而言,事件发生的概率记为P(A)、P(B)。

事件A发生的前提下,事件B发生的概率为:

 事件B发生的前提下,事件A发生的概率为:

由此可得事件AB同时发生的概率为:

 

从而推导出贝叶斯公式:

 

在已知的一个数据集中,决策变量为x1, x2, x3......,目标量是y,就能够引用上述公式:

在y取不同值时,分母都是固定的常量,因此由马尔科夫假设可以进一步近似推导:

 

 二、应用方式:

假设给定一个数据集,那么以这个数据集为基础,对于一个新的决策向量,能够通过上述公式得到一个最大概率的值。将做大概率事件作为目标值输出,就是对此决策向量的分类。

以下列数据为例子:(1:是,0:否)

x1:声音好听x2:长得好看x3:懂得为人x4:成绩优异y:是否有对象
10000
01101
00111
10101
01101
11110
00010

 那么现在得知一个人(x1=1,x2=0,x3=0,x4=1),他是否有(将有)对象?

  1. P(xi|y=1) = [1/4, 2/4, 0, 1/4] ;  P(xi|0)=[2/3, 2/3, 2/3, 2/3]
  2. P(y=1) = 4/7 ; P(y=0)=3/7
  • 有对象:P = 0
  • 没对象:P = 48/567 = 0.0847

说明这个人很可能不会有对象,由于数据量的缘故,例子没有太大的说服性,但假如数据量足够,那么最后就能反映一个具有很高说服性的目标值。

三、MATLAB简略实现代码: 

 

clc;clear all;
input = load("BayesData.txt")
[l,w]=size(input);
count = zeros(2,w);
%统计各个量的个数,count(1,i):为y=1,第i个决策量为1的个数
for i=1:1:l
    for j=1:1:w
        if input(i,j)==1 && input(i,end)==1
            count(1,j)=count(1,j)+1;
        elseif input(i,j)==1 && input(i,end)==0
            count(2,j)=count(2,j)+1;
        end
    end
end
count(2,end)=l-count(1,end);
test_data = [1 0 0 1];
answer = [0,0];
%case 1:
temp = 1;
for i=1:1:w-1
    if test_data(i)==1
        temp=temp*count(1,i)/count(1,end);
    else
        temp=temp*(1-count(1,i)/count(1,end));
    end
end
answer(1)=count(1,end)/l*temp;
%case 0:
temp = 1;
for i=1:1:w-1
    if test_data(i)==1
        temp=temp*count(2,i)/count(2,end);
    else
        temp=temp*(1-count(2,i)/count(2,end));
    end
end
answer(2)=count(2,end)/l*temp;
answer
if answer(1)>answer(2)
    disp("可能会有对象")
else
    disp("可能没有对象")
end

 实验结果:

 

 

 

从一定角度上看,一个人声音好听又成绩好,但是长得不好看还情商低,还是比较难找对象的。(声音好听不露脸,一律参考乔碧萝殿下!)

 

 

 

 

  • 16
    点赞
  • 148
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 7
    评论
评论 7
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

尼卡尼卡尼

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值