- 博客(6)
- 资源 (1)
- 收藏
- 关注
原创 神经网络中常用激活函数总结
好久没写博客和学习笔记了,感觉最近总是没有学习状态呀,就很烦。虽说确实是有在看一些视频课程但是总是精神有力,每天过得也好快总感觉啥都没学时间就过去了阿西。还是得逼最近写写笔记才能不那么恍惚。前几天开始学习Coursera上吴恩达的深度学习课程,然后顺便做做笔记吧。神经元的结构如下图所示,其中f就是激活函数(activation function),它的输入是x的线性组合,然后对其进行某种固定的...
2018-05-30 20:02:25 20614
原创 机器学习中常用的优化方法
写在前面在看斯坦福的次cs231n课程,里面提到一些机器学习的基础知识,比如损失函数,优化算法,正则化形式等等。然后有一些知识也都记不起来了,索性就在博客上再回顾一遍顺便记录下来日后方便查阅。今天就先整理机器学习算法中常用的几种优化损失函数的优化方法,主要有:梯度下降法、牛顿法和拟牛顿法、共轭梯度法、启发式优化方法以及解决约束优化问题的拉格朗日乘数法。1. 梯度下降法(Gr...
2018-05-15 13:28:27 2867 1
原创 经典查找算法及其Python实现
写在前面上一篇介绍了几大排序算法,从基本原理解释到Python代码实现,平时有空的话还需要经常翻出来复习复习。今天就主要来看看另外一大类算法:经典查找算法。参考资料: 《大话数据结构》、《算法第4版》(配套视频:Algorithms, Part I,Algorithms, Part II)本篇相关python代码已上传至Github:使劲儿点!1.基本概念查找就是根据给定的某...
2018-05-10 11:11:17 4827 2
原创 python数据预处理
写在前面最近在看python数据分析与挖掘实战这本书,所以就顺手做个笔记,方便日后忘记了查找。这本书前面五章主要讲的是数据挖掘的建模过程,包括数据探索、数据预处理以及挖掘建模常用算法等几个方面。后面十章是案例分析,每章一个实战案例,加深对数据分析与挖掘的理解。前面的都比较基础,所以从第四章数据预处理开始看。1. 数据清洗数据清洗主要是删除原始数据集中的无关数据、重复数据,平滑噪声数据,...
2018-05-06 22:14:03 6723
原创 机器学习算法总结之聚类:K-means
写在前面在前面学习的ML算法中,基本都是有监督学习类型,即存在样本标签。然而在机器学习的任务中,还存在另外一种训练样本的标签是未知的,即“无监督学习”。此类任务中研究最多、应用最广泛的是“聚类”(clustering),常见的无监督学习任务还有密度估计、异常检测等。本文将首先介绍聚类基本概念,然后具体地介绍几类细分的聚类算法。参考资料:K-Means聚类算法原理1. 聚类简介聚类试图将数据集中的样...
2018-05-03 17:25:28 15912
原创 基于scikit-learn的随机森林调参实战
写在前面在之前一篇机器学习算法总结之Bagging与随机森林中对随机森林的原理进行了介绍。还是老套路,学习完理论知识需要实践来加深印象。在scikit-learn中,RF的分类类是RandomForestClassifier,回归类是RandomForestRegressor。当然RF的变种Extra Trees也有, 分类类ExtraTreesClassifier,回归类ExtraTrees...
2018-05-03 10:46:12 2570 1
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人