机器学习日志
Halosec_Wei
该博主主攻python数据分析,数据挖掘,机器学习方向
展开
-
全网最好的BP神经网络算法推导
https://blog.csdn.net/u010916338/article/details/83310442说下自己理解:神经网络中有这么几个概念:输入层隐藏层输出层激活函数loss函数正则化惩罚项梯度下降法反向传播算法BP神经网络流程:step1:确定输入值输出值,初始化随机赋值隐藏层中权重与偏向step2:前向传播,根据公式将输入值*权...转载 2019-07-02 02:05:04 · 497 阅读 · 0 评论 -
损失函数softmax与SVM(线性分类)详解
目前解决图像分类问题,比较流行的方法是卷积神经网络上。这种方法主要有两部分组成:一个是评分函数(score function),它是原始图像数据到类别分值的映射。另一个是损失函数(loss function),它是用来量化预测分类标签的得分与真实标签之间一致性的。该方法可转化为一个最优化问题,在最优化过程中,将通过更新评分函数的参数来最小化损失函数值。1.线性分类器1.线性分类器2....转载 2019-07-01 20:02:10 · 1579 阅读 · 0 评论 -
Python机器学习 白话讲解 正则化惩罚L1与L2
其中为损失函数为正则化惩罚项假设存在两组隐藏层权重W1=【1,0,0,0】W2=【0.25,0.25,0.25,0.25】可以看出:W1W2虽然loss值结果是一样的,但是很明显,W1更容易出现过拟合(在训练集表现优秀,在测试集表现十分差)正则化惩罚项用于对权重参数进行惩罚对于L2正则化,正则化惩罚项(W1)=1^2+0^2+0^2+0^2=1正...原创 2019-06-26 01:07:09 · 1601 阅读 · 0 评论 -
Python机器学习 聚类算法K-MEANS DBSCAN
聚类概念:无监督问题:我们手里没有标签了难点:如何评估,如何调参聚类:相似的东西分到一组K-MEANS算法基本概念:要得到簇的个数,需要指定K值距离的度量:常用欧几里得距离和余弦相似度(先标准化)优化目标:工作流程: (1)从数据中随机选择k个对象(如三分类,K=3)作为初始聚类中心; (2)计算每个聚类对象(样本)到聚类中心(随机选择的点)的...原创 2019-03-07 14:02:23 · 617 阅读 · 0 评论 -
关于机器学习评价指标AUC,召回率,准确率(ACC),MRR的白话讲解
准确率(ACC)指在分类中,使用测试集对模型进行分类,分类正确的记录个数占总记录个数的比例,计算公式如下所示:其中,代表分类正确的记录个数,代表全部测试数据的个数 ROC曲线下方的面积大小(AUC)AUC(Area Under Curve)[3]被定义为ROC曲线下的面积,使用AUC值作为评价标准是因为很多时候ROC曲线并不能清晰的说明哪个分类器的效果更好,而作为一个数值,...原创 2018-10-19 17:27:50 · 11913 阅读 · 5 评论 -
机器学习 最邻近规则分类(knn)算法(理论+python代码实现)
1.综述1.1 over和Hat在1968年提出了最初的邻近算法1.2分类( classification)算法1.3输入基于实例的学习( nstar∩ce- based learning),懒惰学习( lazy learning)2 例子这里举个例子,假如我们有两个特征工程打斗次数与接吻次数,通过分析可以看到,我们接吻次数多的,我们归类为浪漫类型,打斗次数多的,我们归为动作片...原创 2018-07-16 23:09:14 · 796 阅读 · 0 评论 -
机器学习 机器学习中的基础概念
基本概念训练集,测试集,特征值,监督学习,非监督学习,半监督学习,分类,回归概念学习人类学习概念:鸟,车,计算机定义:概念学习是指从有关某个布尔函数的输入输出训训练阳历中推断出该布尔数例子:学习“享受运动”这一概念:小明进行水上运动,是否享受运动取決于很多因素这里举一个例子小明是否进行水上运动,取决于天气,温度,湿度风力,水温,预报等特征工程,通过对小明是否享受运动...原创 2018-07-16 18:31:54 · 482 阅读 · 0 评论 -
机器学习 深度学习基础介绍
什么是深度学习?深度学习是基于机器学习延伸出来的一个新的领域,由以人大脑结构为启发的神经网络算法为起源加之模型结构深度的増加发展,并伴随大数据和计算能力的提高而产生的一系列新的算法。这是一个深度学习的网络模型图深度学习是什么时候发展起来的呢?其概念由著名科学家 Geoffrey Hinton等人在2006年和2007年在《 Sciences》等上发表的文章被提出和兴起...原创 2018-07-16 17:49:27 · 545 阅读 · 0 评论 -
机器学习 机器学习概念
概念:机器学习(Machine Learning, ML)是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能。学科定位人工智能( Artificial Intelligence,AI)的核心,是使计算机具有智能的根本途径,其应用遍及人工智能的各...原创 2018-07-16 17:32:33 · 531 阅读 · 0 评论