机器学习
理论介绍,数学推导
fxflyflyfly
这个作者很懒,什么都没留下…
展开
-
【机器学习】6.贝叶斯分类器
数学基础贝叶斯决策论(概率框架下实施决策的基础方法)假设有N中可能的类别标记,即y={c1,c2,…,cn},λij\mathop \lambda_{ij}λij是将一个真是标记为cj的样本误分类为ci所产生的损失,基于后验概率P(ci|x)可获得将样本x的分类为ci所产生的期望损失,即在样本x上的条件风险。R(ci∣x)=∑j=1NλijP(cj∣x)R(c_i|x)=\sum_{j=1...原创 2020-01-17 09:00:16 · 206 阅读 · 0 评论 -
【机器学习】贝叶斯公式: P(B|A)=P(B)P(A|B)/P(A)
贝叶斯公式: P(B|A)=P(B)P(A|B)/P(A)P(AB):AB同时发生的概率P(A|B): 在B发生的条件下,A发生的概率一、病人分类的例子让我从一个例子开始讲起,你会看到贝叶斯分类器很好懂,一点都不难。某个医院早上收了六个门诊病人,如下表。症状 职业 疾病打喷嚏 护士 感冒 打喷嚏 农夫 过敏 头痛 ...原创 2020-01-17 08:59:50 · 9252 阅读 · 3 评论 -
【机器学习】5.支持向量机
文章目录间隔与支持向量对偶问题核函数软间隔和正则化间隔与支持向量给定数据集D={(x1,y1),(x2,y2),...,(xm,ym)\mathop (x_1,y_1),(x_2,y_2),...,(x_m,y_m)(x1,y1),(x2,y2),...,(xm,ym)},yi∈[−1,+1]\mathop y_i\in{[-1,+1]}yi∈[−1,+1]训练的基本思想就是基于...原创 2020-01-17 08:59:16 · 152 阅读 · 0 评论 -
【机器学习】4.神经网络
文章目录神经元模型感知机与多层网络误差逆传播算法(BP神经网络)神经网络是由具有适应性的简单单元组成的广泛互联并行的网络,它的组织能模拟生物神经系统对真是世界物体所做出的交互反应。神经元模型神经元模型接收n个来自其他神经元传递的输出信号,这些输入信号通过带权重的连接进行传递,神经元接受的总输入值将于神经元的阈值进行比较,然后通过激活函数处理,产生神经元的输出。理想激活函数sgn(x)={...原创 2019-12-27 09:36:48 · 221 阅读 · 0 评论 -
【机器学习】3.决策树
文章目录基本流程划分选择信息增益增益率基尼指数剪枝处理连续和缺值连续值处理基本流程输入:训练集 D = {(x1,y1),(x2,y2),…,(xm ,ym)} 属性集A={a1,a2 ,…,ad}过程:函数TreeGenerate(D,A) 1. 生成结点 node; 2. if D中的样本全属于同一个类别C,then: 3. 将node作为C类叶节点,retu...原创 2019-12-16 16:53:57 · 338 阅读 · 0 评论 -
【机器学习】2.线性模型
文章目录基本形式线性回归对数几率回归(分类任务)线性判别分析(Fisher判别分类):LDA 用于数据降维基本形式给定有d个属性描述的示例x=(x1,x2,⋯ ,xd)\mathop x = (x_1,x_2,\cdots,x_d)x=(x1,x2,⋯,xd)通过属性的线性组合来进行预测的函数f(x)=w1x1+w2x2+⋯+wdxd+b f(x)=w_1x_1+w_2x_2+\cdo...原创 2019-11-19 10:18:57 · 334 阅读 · 0 评论 -
【机器学习】1.绪论(模型评估)
文章目录基本术语模型评估与选择经验误差和过拟合评估方法留出法交叉验证法/k折交叉验证法自助法性能度量回归任务分类任务错误率和精度查准率、查全率和F1ROC与AUC代价敏感错误率和代价曲线比较检验假设检验交叉验证T检验mcNemar检验Firedman与Nemneyi检验方差和偏差基本术语eg:(色泽=青绿,根蒂=卷缩),(色泽=乌黑,根蒂=稍卷)每一个括号内是一条数据,是关于一个事务或对象...原创 2019-11-18 11:10:15 · 339 阅读 · 0 评论