![](https://img-blog.csdnimg.cn/20201014180756738.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
黄小黄i
一个双鱼座的程序猿
展开
-
神经网络中的激活函数
1、激活函数的作用在神经网络中,激活函数的作用是能够给神经网络加入一些非线性因素,使得神经网络能够很好的解决比较复杂的问题。如果不使用激活函数,神经网络中的每一层的输出只是承接了上一层输入函数的线性变换,无论神经网络有多少层,输出都是输入的线性组合。2、激活函数的发展经历了Sigmoid–>Tanh–>ReLU–>Leaky ReLU–>Maxout这样的过程,还有一个特殊的激活函数Softmax,因为它只会被应用在网络中的最后一层,用来进行最后的分类和归一化。3、Sigmo原创 2020-10-28 15:09:22 · 5822 阅读 · 0 评论 -
概率图模型详解
概率图模型概率图模型使用图的方式表示概率分布。为了在图中添加各种概率,线面是随机变量分布的一些规则:可以看到,在链式法则中,如果数据维度特别高,那么采样和计算非常困难,我们需要在一定程度上做出简化,在朴素贝叶斯中,作出了条件独立性假设。在Markov假设中,给定数据的维度是以时间顺序出现的,给定当前时间的维度,那么下一个维度与之前的维度独立。在HMM中采用了齐次Markov假设,并在此假设的基础上加入条件独立性假设,对维度划分集合A,B,C使得概率图模型采用图的特点表示上述的条件独立性假设,节点表原创 2020-08-18 09:22:04 · 1300 阅读 · 0 评论 -
支持向量机SVM详解
支持向量机支持向量机(SVM)算法在分类问题中有着很重要的地位,其主要思想是最大化两类之间的间隔。按照数据集的特点:1:线性可分问题,如之前的感知机算法处理的问题2:线性可分,只有一点点错误点,如感知机算法发展出来的pocket算法处理的问题3:非线性问题,完全不可分,如在感知机问题发展出来的多层感知机和深度学习针对以上三种情况SVM有以下三种处理方式:1:hard-margin SVM2:soft-margin SVM3:kernel MethodHard-margin SVM支持向量原创 2020-08-12 09:22:54 · 348 阅读 · 0 评论 -
降维详解
降维降维是解决维度灾难和过拟合的重要⽅法,除了直接的特征选择外,我们还可以采⽤算法的途径对特征进⾏筛选,线性的降维⽅法以 PCA 为代表,在 PCA 中,我们只要直接对数据矩阵进⾏中⼼化然后求奇异值分解或者对数据的协⽅差矩阵进⾏分解就可以得到其主要维度。⾮线性学习的⽅法如流形学习将投影⾯从平⾯改为超曲⾯。解决过拟合的问题除了正则化和添加数据之外,降维是最好的方法。降维的思路来源于维度灾难的问题,我们知道n维球的体积为:那么在球体积与边长为2R的超立方体比值为:这就是上面所说的降维灾难,在高维数据原创 2020-08-07 09:16:56 · 1515 阅读 · 0 评论 -
线性分类详解
线性分类为了解决分类问题,在线性模型的函数进行之后再加入一层激活函数,这个函数是非线性的,激活函数的反函数叫链接函数。线性分类有两种方式:1、硬分类,我们直接需要输出观测对应的分类。这类模型的代表为:(1)线性判别分析(2)感知机2、软分类,产生不同类别的概率,这类算法根据概率方法的不同分为两种(1)生成式(根据贝叶斯定理先计算参数后验,在进行推断),高斯判别式分析(GDA)和朴素贝叶斯(2)判别式(直接对条件概率进行建模):logistic回归一、硬分类–感知机选取激活函数为:这样就原创 2020-08-04 10:00:23 · 3358 阅读 · 1 评论 -
线性回归详解
线性回归假设数据集为:在后面记为:线性回归假设:原创 2020-07-29 11:22:16 · 354 阅读 · 0 评论 -
解决pip、conda下载包缓慢的问题
因为pip和conda大多数源都是国内的,需要换上国内的源一、电脑环境win10 专业版二、pip1、国内常见的源清华:https://pypi.tuna.tsinghua.edu.cn/simple阿里云:http://mirrors.aliyun.com/pypi/simple/中国科技大学 https://pypi.mirrors.ustc.edu.cn/simple/华中理工大学:http://pypi.hustunique.com/山东理工大学:http://pypi.sdutl原创 2020-07-28 09:12:00 · 549 阅读 · 0 评论 -
机器学习应用场景
原创 2020-07-17 15:58:49 · 192 阅读 · 0 评论