猛将起于卒伍,工业环境下的分类模型

线性回归

做预测使用的

逻辑回归

做分类使用的

分类:

多分类

输入一个x是你的输入吗,可能是一个图像

输入的是个数字或者是一个值,也有可能是这个分类也有可能不是这个分类

是没有一分类的,一个是正向的,一个是反向的,所以最小是二分类

二分类简化成为一个输出的类

这个就是我们两个特正是互斥的,这样就可以简化成为一个输出类

另一个就是这个类别的1-p

画图来表示

大于0的这条直线对的在上面,小于0的在这条直线的下面

当我们的值是等于0的时候这条直线是正好和这个点进行一个重合的

我们也可以去画一条直线去尝试一下

线性回归是知道坐标的一部分去预测另外一个

逻辑回归是知道完整的部分就去预测他和直线的相对的位置

虽然这两个的都是直线的方向的进行相关的回归

但是这两个回归的方法是不一样的

一个是预测下一个未知的

一个是预测在这个直线之间的相关的位置

这个模型是没有这个变化区间的

要么就是1要么就是0

这个地方就是判断的十分的直接的

但是我们希望这个相似度我们是可以区分出来的

就是我们不仅要去知道这个直线中的到底是否是这个字母Q

而且我们也可以知道有想Q的真特征的值的大小要去更大一些

不相似的的这个值要去小一些

这个我们就可以去更好的去判断这个数值

这个函数是刚好去可以满足这个条件--高斯

在两边的地方d的变化是对x的变化是非常的小的

所以这个地方就是一个导数

这个图像是关于0对称的

不断地去调整w从而来去影响x的值

我们的目的就是要找出这条直线,把这个两端的值分好的分开

离直线越远这个数字就会越大

我们先去随机一个w

真实的数据也可以去通过这个去计算出数值来

这两个之间的差异去越小越好

在线性回归的时候,我们是去定义这个mse

这个逻辑回归的条件式子中是不可以去使用这个mse的

所以我们要去找寻一种新的距离去来预测这个值和真实的值

预测和我们的真实就是我们的找寻两个距离之间的真实的值

KL距离

这两个硬币之间的差异到底是有多大的呢

我们先把正面的情况看一下

再去看反面的情况

这两个硬币的差异性越大的话这个硬币之间的距离也会越大

但是这个两个硬币如果完全一样的话

这个距离也会是0

这两个距离是不具备对称性的

这个x是一个连续值的时候而不是这个分散值的时候,我们可以把累加变成积分

这个地方可以去观察

分析这个图像和原本图像的相似性

当p大的时候,q越大越好

当p小的时候,这个q就是无所谓的

p大的时候,这个后面的小的状态就是越存在作用的

但是p很小的时候,这个后面的这个值就是作用很小

要把时间和精力要去使用在这个重要的东西

这个山峰尽量去拟合比较大的数值,这个小的数值所存在的时候,对其整体的影响是十分的小的

这个地方的各点的概率就确定下来了

我们也可以去画出曲线来查看

当p很小的时候

这个logp很快的趋向于负无穷

所以说我们必须要去这个地方的最大值,这个p非常小的时候我们要把这个伤害大的时候,权重小一些,这样的话我们的损失就要去最小化

我们在伤害上进行一个加权的分配

逻辑回归

预测值                                 真实值

二分类的两个都要去拟合

交叉熵的损失

这个就是kl距离

这里面的两块总有一个区域是为0的

不断地改变这个w0

让这个kl距离越来越小

  • 2
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值