ML
机器学习的一些知识和想法的分享
Gardien2
Take your time, just code to change the world!
展开
-
CART回归树生成过程中切分变量和切分点的理解
简单描述在cart回归树的生成过程中,我们需要对输入空间进行划分,使用启发式的方法:选择第jjj个变量xjx^jxj和它的取回sss,作为切分变量和切分点,并定义两个区域:R1(j,s)={x∣xj≤s}R_1(j,s)=\{x|x^j\le s\}R1(j,s)={x∣xj≤s}和R2(j,s)={x∣xj>s}R_2(j,s)=\{x|x^j>s\}R2(j,s)={x∣xj>s}这里主要解释jjj和sss;对于给定的训练数据D={(x1,y1),(x2,y2),...,(x原创 2020-10-03 12:06:27 · 1314 阅读 · 1 评论 -
机器学习中朴素贝叶斯法为什么要最大化后验概率-你还搞不懂?
本文是在看书的基础上,个人的一丢丢思考,君莫笑!问题描述(参考李航教授的《统计学习方法》)朴素贝叶斯法将实例分到后验概率最大的类中。这等价于期望风险最小化。假设选择0-1分布,则损失函数为L(Y,f(X))={1Y≠f(X)0Y=f(X)L(Y,f(X))=\left\{ \begin{aligned} 1 & & Y \neq f(X)\\ 0 & & Y = f(X) \\ \end{aligned} \right.L(Y,f(X))={10原创 2020-10-03 11:40:01 · 703 阅读 · 6 评论 -
监督学习中假设输入与输出的随机变量X和Y遵循联合概率分布P(X,Y)的一种理解
联合概率分布的定义联合概率是指在多元的概率分布中多个随机变量分别满足各自条件的概率。假设X和Y都服从正态分布,那么P{X<4,Y<0}就是一个联合概率,表示X<4,Y<0两个条件同时成立的概率。表示两个事件共同发生的概率。A与B的联合概率表示为 P(AB) 或者P(A,B),或者P(A∩B)。(参考百度百科)参数定义XXX : 输入随机变量YYY : 输出随机变量XiX_{i}Xi : 随机变量XXX的一个具体取值YiY_{i}Yi : 随机变量YYY的一个具体原创 2020-10-02 16:47:05 · 1840 阅读 · 1 评论