![](https://img-blog.csdnimg.cn/20201014180756918.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
tomgaooo
这个作者很懒,什么都没留下…
展开
-
详解np.argmax()
https://blog.csdn.net/weixin_38145317/article/details/79650188转载 2019-11-04 21:07:51 · 431 阅读 · 0 评论 -
机器学习-支持向量机核函数
核函数核函数的目的:改造支持向量机来处理非线性问题如何选择高阶的特征值,哪些高阶的特征值是我们真正需要的为了方便可视化,我们假定只有两个特征x1,x2我们手动选择3个点l1,l2,l3我们想选取新的特征值于是用下图的相似度函数f1,f2,f3来表示新的特征值,也记做 K(x,l)计算公式就是下图算是,其中被双竖线框住的是landmark l的欧式距离(也就是两点间的距离)σ(高斯核...原创 2019-10-25 20:48:51 · 666 阅读 · 0 评论 -
机器学习-支持向量机
支持向量机在逻辑回归中,我们需要z远大于0,函数接近1同理,z远小于0,函数接近于0这是逻辑回归的损失函数损失函数的图像分别为在逻辑回归的基础上我们分别以1,-1为分界,1之后的都为0,再延伸出一条直线(下图粉线),作为我们新的损失函数。我们把y=1时的新的图像命名为cost1(z)y=0时的新的图像命名为cost0(z)同时用cost1(z),cost0(z)替换我们逻...原创 2019-10-25 20:16:26 · 360 阅读 · 0 评论 -
机器学习-神经网络的模型选择问题
神经网络的模型选择问题如果一层隐藏层就能解决问题,我们尽量就用一层就好,隐藏层过多会增大计算量如果有多个隐藏层,则最好是每个隐藏层的单元个数相同(默认)一般来说,隐藏单元越多越好(但是计算量会很大),因为这样参数多,拟合的效果好...原创 2019-10-23 20:17:34 · 527 阅读 · 0 评论 -
机器学习-参数的初始化
参数的初始化在神经网络的一些问题中,我们会把参数都初始化为0但这样其实会有一些问题在训练过程中,无论我们怎么训练,下图同一颜色的参数始终相同,这样则a1,a2也始终相同,我们称之为对称权重问题为了避免这种现象的发生,我们要随机初始化,常用的办法就是用正态分布的函数初始化...原创 2019-10-23 20:14:44 · 877 阅读 · 0 评论 -
机器学习-神经网络反向传播算法
反向传播算法我们之前的线性回归和逻辑回归算法都是通过找到一个损失函数,通过某种方法最小化损失函数以不断修正参数,最后获得我们想要的模型。这基本上是机器学习的通用的流程对于神经网络来说,我们同样要找到损失函数,最小化损失函数进而达到修正参数的目的反向传播算法就是完成这一功能的算法首先还是要给出损失函数这是之前逻辑回归的损失函数,假定我们神经网络的激活函数用的是sigmoid函数,后面的那项...原创 2019-10-23 20:08:40 · 568 阅读 · 0 评论 -
机器学习-神经网络
神经网络如果我们的模型特征数很大要包含所有的二次项甚至3次项甚至更高我们知道如果有n个特征值则二次项的个数是O(n2)级别,三次项O(n3)什么时候会拿到如此多的特征数比如图像处理领域,我们输入的一张图片,每一个像素点都是一个特征值在计算机严眼中,图片就是一个大的像素矩阵你的算法可能会选一些像素点作为最主要的特征点进行参考,然后得到一个将图片进行分类假如是一张50*50像...原创 2019-10-23 15:11:39 · 204 阅读 · 0 评论 -
机器学习-逻辑回归
逻辑回归(logistic regression)逻辑回归应用在机器学习的分类问题当中常见的分类问题有2元分类和多元分类2元分类垃圾邮件分类肿瘤是恶性还是良性这些问题共有的特点就是只有结果只可能是0或1加入我们还用线性回归来处理这个问题我们以0.5作为分界,大于0.5认为是恶性,小于0.5认为是良性如果得到这样的曲线是完美的,但是如果加入一个数据,生成这样一条曲线。这条曲...原创 2019-10-12 19:58:42 · 186 阅读 · 0 评论 -
机器学习-多变量线性回归
多变量线性回归形式:这里要注意的是x0=1(恒等)如果了解一点线性代数就知道可以简化为向量相乘(默认向量为列向量)特征缩放(feature scaling)当特征值的取值范围过大时,画出的函数图像可能会有点畸形例如下面这样瘪瘪的椭圆这样可能会在梯度下降时来回震荡解决的办法就是特征缩放,一般来说控制特征值的范围在(-1,1)范围附近即可如上 : x1=x1/2000, x2=...原创 2019-10-09 19:57:30 · 197 阅读 · 0 评论 -
机器学习-单变量线性回归
单变量线性回归代价函数(cost function):用来衡量是否找到系统整体性能的函数,一般来说,代价函数越小表示拟合的越好为了减少极个别极端的数据,我们把误差平方和再乘以1/2m. 另外注意h(x)是关于x的函数,cost function是关于参数θ的函数从这个最简单的函数(θ0=0)我们来看cost function是如何变化如果两个参数都不为0,cost function应该是这...原创 2019-10-09 12:13:02 · 120 阅读 · 0 评论