2019年03月_IMWTJ

12月 11月 09月 08月 04月 03月 02月 01月

原创聚类算法K-Means原理及 Python 实现

聚类一、聚类任务在无监督的学习中，训练样本的标记信息是未知的，目标是通过对无标记训练样本的学习来揭露数据的内在性质及规律，为进一步的数据的分析提供基础，此类学习任务中研究最多、应用最广泛的是聚类。聚类试图将数据集中的样本划分为若干个通常是不相交的子集，每个子集称为一个簇，通过这样的划分，每个簇可能对应于一些潜在的类别。聚类过程仅能自动形成簇结构，簇对应的概念语义需由使用者来把握和命名。...

2019-03-27 16:37:51 1799

原创岭回归和Lasso 回归

线性回归存在问题：在处理复杂的回归问题时，普通的线性回归问题会出现预测精度不够的问题，如果模型中特征之间有较强的相关关系时，即特征之间出现严重的多重共线性时，用普通最小二乘法估计模型参数，往往参数估计的方差太大，求出来的模型就很不稳定。再具体取值上与真值有较大偏差。这时就需要对数据中的特征进行提取，回归算法里面的特征选择的方法有岭回归和 Lasso 回归。这两种方法都属于正则化的特征选...

2019-03-24 20:05:24 1901

原创 spyder突然打不开

以前用spyder都挺好的，今天发现打不开，只有任务栏有图标，点击没有反应。解决方法：删除：C:\用户\Administrator里面的.spyder-py3和.matplotlib文件然后启动spyder，就好了...

2019-03-24 17:27:25 4326 3

原创线性回归的原理及实践（牛顿法）

至此分类算法在前面都学完了，下面将进行回归算法的学习。回归算法和分类算法都属于监督学习算法，不同的是分类算法中标签的是一些离散的值，代表不同的类别，而在回归算法中，标签是一些连续的值，回归算法需要训练得到样本特征到这些连续标签之间的映射。线性回归是一类重要的回归问题，在线性回归中，目标值与特征之间存在着线性相关的关系。一、线性回归基本形式：给定由 d 个属性描述的示例，线性模型试图...

2019-03-21 20:53:36 4466

原创 BP神经网络原理及实践

一、神经元模型神经网络：目前使用最广泛的定义是由适应性的简单单元组成的广泛并行互连的网络，它的组织能够模拟生物神经系统对真实世界物体所做出的交互反应。我们在机器学习中谈论神经网络时指的是神经网络学习，或者说，是机器学习与神经网络这两个学科领域的交叉部分。神经网络中最基本的成分是神经元模型，一直沿用近日的是 “M-P神经元模型”，如下图所示。这个模型中神经元接收到来自 n 个其他神经元传递...

2019-03-20 10:28:04 1570

原创随机森林 RF 算法原理及实践（二）

上一节说过随机森林（Random Forest,RF）算法是一种重要的基于Bagging 的集成学习算法，它可以用来做分类、回归等问题。下面就分类问题展开学习。一、随机森林算法模型RF 在以决策树为基学习器构建 Bagging 集成的基础上，进一步在决策树的训练过程中引入随机属性选择，具体的就是传统决策树在选择划分属性时是在当前节点的属性集合（假设有 d 个属性）中选择一个最优的属性；而...

2019-03-14 16:30:03 3003

随机森林算法是一种重要的基于 Bagging 的集成学习方法，可用来做分类、回归等问题。随机森林算法是由一系列的决策树组成，他通过自助法（Bootstrap）重采样技术，从原始训练样本集中有放回的重复随机抽取 m 个样本，生成新的训练样本集合，然后根据自主样本集生成 k 个分类树组成随机森林，新数据的分类结果按分类树投票多少形成的分数定。其实质是对决策树算法的一种改进，将多个决策树合并在一起，每棵...

2019-03-14 11:19:10 3091

原创 TypeError: write() argument must be str, not bytes

运行程序时出现下面的错误：TypeError: write() argument must be str, not bytes其实是文件打开的问题，而且默认的储存方式是二进制原始程序是： with open(result_file, 'w') as f:将其改成下面的就对了 with open(result_file, 'wb+') as f:...

2019-03-14 11:13:36 490

原创错误： No module named 'cPickle'

导入模块 import cPickle as pickle运行程序时发现出现错误：ImportError: No module named 'cPickle'其实是版本的问题，python3并不兼容ython2因为在python3下，是没有cPickle。而python 2 中有cPickle，解决方法是在python3中将cPickle改为pickle，如下：...

2019-03-14 11:00:36 5780 1

原创安装 JAVA 的开发工具 Eclipse

1.安装Eclipse的开发工具点击下面链接 https://www.eclipse.org/downloads/，点击 Download Packages 如下图所示：按照自己电脑版本选择下载，我是64位，如下图所示：2.启动Eclipse下载文件后，进入文件夹直接双击eclipse.exe即可，启动eclipse会让你选择一个工作空间，你可以自己输入指定位置，...

2019-03-02 11:18:28 477

原创 windows10系统安装JDK

1.JDK 的下载http://www.oracle.com/technetwork/java/javase/downloads/index.html出现下面的界面并点击图中指示图标：点击选择 Accept License Agreement ，按照自己电猫选择下载文件，我是64的：2.安装JDK运行下载的文件，可以换个盘安装，我放到D：\java中。一直按下一步，，，...

2019-03-01 11:44:14 2112