机器学习
大黑山小马哥
砍柴时砍柴,挑水时挑水
展开
-
判别模型(Discriminative Model)
1. 基本概念由生成模型推出,用特征的权重和b表示的分类模型。2. 推导过程推导过程从生成模型出发,首先推出sigmoid函数,然后推出z的表达式,最后得出权重和b的表达式。3. 训练过程使用了逻辑回归(Logistic Regression)进行训练。主要分为三步骤:Step 1: Function Set(选sigmoid函数),确定目标参数权重和b。Step 2: Goodness of a Function(使用交叉熵作为损失函数)Step 3:原创 2021-02-23 17:34:57 · 1508 阅读 · 0 评论 -
生成模型(Generative Model)
1. 基本概念目标是学习样本点的分布。学到后可以生成数据,故称为生成模型。2. 实现步骤(1) 假设样本点的分布(例如高斯分布)(2) 通过样本点计算均值和方差通常使用联合分布以减少参数的个数。共用协方差矩阵后,边界形状发生变化。(3)分类P(A|B),读作“在B的条件下A的概率”。...原创 2021-02-23 11:39:58 · 7297 阅读 · 0 评论 -
机器学习中variance和bias的含义、影响及解决方案
1. 基本概念bias(偏差):描述估计中心到真实中心的距离。variance(方差):描述样本点到估计中心的距离。2. 通过bias和variance的概念,可以引出underfitting和overfitting的概念:underfitting(欠拟合):如果模型不能拟合训练样本,则有较大的偏差。overfitting(过拟合):如果模型可以较好的拟合训练样本,而不能拟合测试样本,则有较大的方差。3. 解决方案出现bias大时,需重新设计模型:(1)增加输入的特征;原创 2021-02-14 22:32:02 · 711 阅读 · 0 评论