1. 房屋销售的例子:
这是一个最基础的一元方程的回归问题,其方程的基本形式为y=ax+b,matlab中有现成的regress函数可以调用,操作如下:
x1=[123 150 87 102]';
y=[250 320 160 220]';
x=[zeros(4,1) x1]; // 因为这里涉及一个常数c的问题,固定做法直接把常数对应的那一列设置为1;
b=regress[y, x];
从而即可得到线性回归的结果:y=2.4029x-40.04。
这种思路就是判别的思路,代表了一种解决问题的方式:先根据training set训练数据,得到结果,然后采用测试数据进行测试,根据已有的结论预测测试数据的结果。
2.贝叶斯规则
首先先参考一个例子,这个例子相信都会明白,因为概率论经常会有类似的问题:
某地区的人口中患有某病的概率是0.008,我们对一些人进行了测试,该测试针对有病的患者有0.98的可能返回正确判断;针对无病的人有0.97的可能性返回正确判断,现在已知A经测试判断为有病,那么是否应该断定A真的患有该病?
设 h: 该人患病;x:经测试后判断患病;y:经测试后判断为无病;
则 p(h)=0.008 p(x|h)=0.98 p(y|¬h)=0.97 那么待求的便是p(h|x)=p(x|h)*p(h) / p(x) = p(x|h)*p(h) / p(x|h)*p(h)+p(x|¬h)*p(¬h)=0.008*0.98 / *** = 0.21;
可以看出这个人极有可能是没病。