- 博客(98)
- 收藏
- 关注
RSS订阅转载 机器学习(十三) 集成学习和随机森林（下）
五、随机森林和 Extra-Trees六、Ada Boosting 和 Gradient Boosting七、Stacking八、学习scikit-learn文档,官方学习文档： http://scikit-learn.orghttp://scikit-learn.org/st...
2018-09-04 22:13:00
202
转载 机器学习(十三) 集成学习和随机森林（上）
一、什么是集成学习二、Soft Voting Classifier更合理的投票，应该有的权值三、Bagging 和 Pasting四、oob (Out-of-Bag) 和关于Bagging的更多讨论转载于:...
2018-09-03 21:44:00
231
转载 机器学习(十二) 决策树（下）
四、基尼系数五、CART与决策树中的超参数Classification And Regression Tree根据某一个维度d 和某一阈值v进行二分scikit-learn的决策树实现：CART六、决策树解决回归问题七、决策树的局限性本文章仅仅 波波老师机器学习的学习笔记...
2018-09-03 15:12:00
188
转载 机器学习(十二) 决策树（上）
决策树(Decision Tree）是在已知各种情况发生概率的基础上，通过构成决策树来求取净现值的期望值大于等于零的概率，评价项目风险，判断其可行性的决策分析方法，是直观运用概率分析的一种图解法。由于这种决策分支画成图形很像一棵树的枝干，故称决策树。在机器学习中，决策树是一个预测模型，他代表的是对象属性与对象值之间的一种映射关系。Entropy = 系统的凌乱程度，使用算法ID3,C4...
2018-09-02 22:22:00
278
转载 机器学习(十一) 支持向量机 SVM（下）
支持向量机通过某非线性变换 φ( x) ，将输入空间映射到高维特征空间。特征空间的维数可能非常高。如果支持向量机的求解只用到内积运算，而在低维输入空间又存在某个函数 K(x, x′) ，它恰好等于在高维空间中这个内积，即K( x, x′) =<φ( x) ⋅φ( x′) > 。那么支持向量机就不用计算复杂的非线性变换，而由这个函数 K(x, x′) 直接得到非线性变换的内积，...
2018-09-02 18:43:00
221
转载 机器学习(十一) 支持向量机 SVM（上）
一、什么是支撑向量机SVM （Support Vector Machine）SVM(Support Vector Machine)指的是支持向量机，是常见的一种判别方法。在机器学习领域，是一个有监督的学习模型，通常用来进行模式识别、分类以及回归分析。Vapnik等人在多年研究统计学习理论基础上对线性分类器提出了另一种设计最佳准则。其原理也从线性可分说起，然后扩展到线性不可分的情况...
2018-09-01 21:00:00
178
转载 机器学习(十) 评价分类结果 (下)
五、精准率和召回率的平衡Precision-Recall 的平衡六、精准率-召回率曲线七、ROC曲线Receiver Operation Characteristic Curve描述 TPR 和 FPR 之间的关系metrics.pyimport numpy as npfrom math import sqrt...
2018-09-01 19:11:00
100
转载 机器学习(十) 评价分类结果 (上)
一、准确度的陷阱和混淆矩阵分类算法的评价分类准确度的问题：一个安正预测系统，输入体检信息，就可以判断是否有癌症，预测准确度：99.9%如果癌症产生的概率只有0.01%我们系统预测所有人都是健康的，可达到99.99%的准确度。对于极度偏斜 (Skewed Data）的数据 只使用分类准确度 是远远不够的，需要使用 混淆矩阵 做进一步的分析二、精准率...
2018-09-01 16:22:00
88
转载 机器学习(九) 逻辑回归 (下)
五、决策边界六、在逻辑回归中使用多项式特征七、scikit-learn中的逻辑回归八、OvR与OvO我写的文章只是我自己对bobo老师讲课内容的理解和整理，也只是我自己的弊见。bobo老师的课 是慕课网出品的。欢迎大家一起学习。...
2018-08-31 20:40:00
62
转载 机器学习(九) 逻辑回归 (上)
一、什么是逻辑回归逻辑回归 Logistic Regression逻辑回归：解决分类问题回归问题怎么解决分类问题？将样本的特征和样本发生的概率联系起来，概率是一个数。二、逻辑回归的损失函数三、 逻辑回归损失函数的梯度四、实...
2018-08-31 20:03:00
109
转载 机器学习(八) 多项式回归与模型泛化(下)
六、验证数据集与交叉验证七、偏差方差平衡偏差方差权衡 Bias Variance Trade off偏差 Bias导致偏差的主要原因：对问题本身的假设不正确！如：非线性数据使用线性回归欠拟合 underfitting方差 Variance数据的一点点扰动都会较大的影响模型通常原因，使用的模型太复杂如高阶多项式...
2018-08-31 16:08:00
67
转载 机器学习(八) 多项式回归与模型泛化(上)
一、什么是多项式回归直线回归研究的是一个依变量与一个自变量之间的回归问题，但是，在畜禽、水产科学领域的许多实际问题中，影响依变量的自变量往往不止一个，而是多个，比如绵羊的产毛量这一变量同时受到绵羊体重、胸围、体长等多个变量的影响，因此需要进行一个依变量与多个自变量间的回归分析，即多元回归分析。研究一个因变量与一个或多个自变量间多项式的回归分析方法，称为多项式回归（Polynomi...
2018-08-31 09:24:00
122
转载 机器学习(七) PCA与梯度上升法 (下)
五、高维数据映射为低维数据换一个坐标轴。在新的坐标轴里面表示原来高维的数据。低维 反向 映射为高维数据PCA.pyimport numpy as npclass PCA: def __init__(self, n_components): """初始化PCA""" assert n_comp...
2018-08-30 22:15:00
72
转载 机器学习(七) PCA与梯度上升法 (上)
一、什么是PCA主成分分析 Principal Component Analysis一个非监督学的学习算法主要用于数据的降维通过降维，可以发现更便于人类理解的特征其他应用：可视化；去噪第一步：将样例的均值归零（demean）二、使用梯度上升...
2018-08-29 21:51:00
84
转载 机器学习(六) 梯度下降法 (下)
梯度下降法的基本思想可以类比为一个下山的过程。假设这样一个场景：一个人被困在山上，需要从山上下来(i.e. 找到山的最低点，也就是山谷)。但此时山上的浓雾很大，导致可视度很低。因此，下山的路径就无法确定，他必须利用自己周围的信息去找到下山的路径。这个时候，他就可以利用梯度下降算法来帮助自己下山。具体来说就是，以他当前的所处的位置为基准，寻找这个位置最陡峭的地方，然后朝着山的高度下降的...
2018-08-29 20:49:00
79
转载 机器学习(六) 梯度下降法 (上)
一、什么是梯度下降法梯度下降法 Gradient Descent1.不是一个机器学习算法2.是一种基于搜索的最优化方法3.作用：最小化一个损失函数4.梯度上升法：最大化一个效用函数并不是所有函数都有唯一的极值点二、模拟梯度下降法三、线性回归中的梯度下降法多元线性回归中的梯...
2018-08-28 21:32:00
77
转载 机器学习(五) 线性回归法 （下）
六、最好的衡量线性回归法的指标： R Squareddef r2_score(y_true, y_predict): """计算y_true和y_predict之间的R Square""" return 1 - mean_squared_error(y_true, y_predict)/np.var(y_true)...
2018-08-27 21:20:00
72
转载 机器学习(五) 线性回归法 （上）
一、简单额线性回归解决回归问题思想简单、实现容易许多强大的非线性模型的基础结果具有很好的可解释性蕴含机器学习中的很多重要思想二、最小二乘法三、简单线性回归的实现SimpleLinearRegression.pyimport numpy a...
2018-08-25 22:31:00
83
转载 机器学习(四) 机器学习(四) 分类算法--K近邻算法 KNN (下)
六、网格搜索与 K 邻近算法中更多的超参数七、数据归一化 Feature Scaling解决方案：将所有的数据映射到同一尺度八、scikit-learn 中的 Scalerpreprocessing.pyimport numpy as npclass StandardScaler:...
2018-08-25 18:12:00
80
转载 机器学习(四) 分类算法--K近邻算法 KNN (上)
一、K近邻算法基础KNN------- K近邻算法--------K-Nearest Neighbors思想极度简单应用数学知识少 （近乎为零）效果好（缺点？）可以解释机器学习算法使用过程中很多细节问题更完整的刻画机器学习应用的流程import numpy as npimport matplotlib.pyplot as plt...
2018-08-25 11:48:00
116
转载 机器学习(三) Jupyter Notebook, numpy和matplotlib的详细使用 (下)
七、Numpy中的矩阵运算八、Numpy中的聚合运算九、Numpy中的arg运算十、Numpy中的比较和Fancy Indexing十一、Matplotlib数据可视化基础十二、数据加载和简单的数据探索...
2018-08-24 23:23:00
77
转载 机器学习(三) Jupyter Notebook, numpy和matplotlib的详细使用 (上)
工欲善其事，必先利其器。在本章，我们将学习和机器学习相关的基础工具的使用：Jupyter Notebook, numpy和matplotlib。大多数教程在讲解机器学习的时候，大量使用这些工具，却不对这些工具进行系统讲解。我特意添加了这个章节，让同学们在后续编写机器学习算法的过程中，更加得心应手！一、Jupyter Notebook基础a--b：在Jupyter Notebo...
2018-08-23 22:18:00
116
转载 机器学习(二) 机器学习基础
一、机器学习世界的数据机器学习基础概念关于数据二、机器学习的主要任务监督学习： 机器学习的基本任务，具体可以做什么？1.分类任务。二分类，多分类：识别图片，数字识别等2.回归任务。结果是一个连续数字的值，而非一个类别；回归任务可以划分成分类任务。三、监督学习，非监督学习、半监督学习和增强学习监督学习：给机器的训练...
2018-08-23 20:25:00
94
转载 机器学习(一) 机器学习述论
我写的文章只是我自己对bobo老师讲课内容的理解和整理，也只是我自己的弊见。bobo老师的课 是慕课网出品的。欢迎大家一起学习。一、什么事机器学习？让机器去学习让机器去执行什么事机器学习？最早的机器学习应用- 垃圾邮件分辨传统的计算机解决问题的思路：编写规则，定义‘垃圾邮件’，让计算机执行对于很多问题，规则很难定义规则在不断变化列子：图像识...
2018-08-23 16:17:00
64
转载 Python demo working
一、游戏1、2、3print("-------------- Guess Number Game---------------------")num=input("Guess Number")guess = int(num)print(guess)if guess == 6: print("true")else: if guess >...
2018-08-22 14:22:00
106
转载 Python(十二) Pythonic与Python杂记
一、导言二、用字典映射代替switch case语句# 字典代替 switch 语句# switch ()# {# case 0 :# dayName= 'a';# break;# case 1 :# dayName= 'b';# break;# case 2 :# ...
2018-08-20 18:57:00
71
转载 Python(十一) 原生爬虫
一、分析抓取目的确定抓取页面#爬取主播人气排行二、整理爬虫常规思路爬虫前奏明确目的找到数据对应的网页分析网页的结构找到数据所在的标签位置模拟 HTTP 请求， 向服务器发送这个请求， 获取到服务器返回给我们的HTML用正则表达式提取我们要的数据（名字，人数）三、VSCode中调试代码F5 启...
2018-08-20 16:33:00
154
转载 Python(十) 函数式编程： 匿名函数、高阶函数、装饰器
一、lambda表达式lambda parameter_list: expression# 匿名函数def add(x,y): return x+yprint(add(1,2))f = lambda x,y: x+yprint(f(1,2))二、三元表达式# x >y ? x :y#...
2018-08-19 22:21:00
83
转载 Python(九) Python的高级语法与用法
本章节我们揭开Python进阶部分的高级特性，详细讲解枚举、闭包，并对函数式编程做出介绍一、枚举其实是一个类from enum import Enum#枚举类class VIP(Enum): YELLOW = 1 #大写 GREEN = 2 BLACK = 3 RED = 4 print(VIP.YELLO...
2018-08-18 22:01:00
111
转载 Python(八) 正则表达式与JSON
一、初识正则表达式正则表达式 是一个特殊的字符序列，一个字符串是否与我们所设定的这样的字符序列，相匹配快速检索文本、实现替换文本的操作json（xml） 轻量级 web 数据交换格式import rea='C|C++|Java|C#||Python|Javascript' r= re.findall('Python',a)print(r)i...
2018-08-18 20:28:00
64
转载 Python(七) 高级部分：面向对象
一、类的定义# 面向对象#有意义的面向对象代码# 类 = 面向对象# 类、对象#实例化# 类最基本的作用：封装class Student(): name = '' age = 0 def print_file(self): print('name'+self.name) print('...
2018-08-17 22:19:00
129
转载 Python(六) Python 函数
一、认识函数help(方法名字)help(round)1.功能性2.隐藏细节3.避免编写重复的代码4.组织代码 自定义函数二、函数的定义及运行特点# 递归def sum_num(num): if num ==1: return num return num + sum_num(num - 1)p...
2018-08-17 18:13:00
110
转载 Python(五) 包、模块、函数与变量作用域
一、while循环与使用场景CONDITION=1while CONDITION <=5 : CONDITION +=1 print("hello")else: print("EOF") hellohellohellohellohelloEOF二、for与for-else循环#...
2018-08-16 22:21:00
98
转载 Python(四) 分支、循环、条件与枚举
一、什么是表达式表达式（Expression）是运算符（operator）和操作数（operand）所构成的序列二、表达式的优先级三、表达式优先级练习优先级同级 从左往右计算 1 or 2 and 3 返回1 not 1 or 2 +2 ==c 返回 False 等价于(not 1) or ((2 +2) ==c)print(1 ...
2018-08-16 22:14:00
238
转载 Python(三) 变量与运算符
一、什么是变量变量 = [1,2]二、变量的命名规则字母，数字，下划线，首字母不能是数字系统关键字 不能用在变量名中 保留关键字区别大小写a=1, a='1', a=(1,2), a={1,2}三、值类型与引用类型int str tuple（不可改变） 值类型list set dict(可变) 引用类型id()...
2018-08-15 22:37:00
153
转载 Python(二) 表示‘组’的概念与定义
现实世界中总存在一组一组的事物，一、列表的定义type(['hello','world',1,9,True,False]) = <class 'list'>type([[1,2,3,],[1,2],[True,False]]) =<class 'list'> 嵌套列表二、列表的基本操作['第一个数','第二个数','第三...
2018-08-14 22:33:00
123
转载 Python(一) 基本类型
前言：什么是代码？代码是现实世界事物在计算机世界中的映射。什么事写代码？写代码是将现实世界中的事物用计算机语言来描述。一、数字：整形与浮点型整型：int浮点型：float （没有单精度和双精度之分）特别注意，2/2=1.0 得到 float结果 2//2=1 得到是 int 结果二、10、2、8、16进制三、各进制的表示与转换ob 表示2进制...
2018-08-13 22:18:00
144
转载 Nginx 代理以及HTTPS (二)
一、HTTPS解析https 加密私钥公钥http 的握手 是确认网络是连通的。https 的握手 是一个加密的过程 加密图二、 使用Nginx 部署HTTPS 服务1.证书生成命令(https://gist.github.com/Jokcy/5e73fd6b2a9b21c142ba2b1995150808) copy 里面的命令 在 Git上面运行2...
2018-08-09 22:06:00
115
转载 NGINX 代理以及 HTTPS (一)
一、 Nginx 安装 和基础代理配置假如 启动nginx 出现这个错误，可能是 iis服务被打开了，80端口被占用了。需要如下操作：用Nginx 配置一个test.com 的代理名称。配置host 分配服务器。二、 Nginx 代理配置和代理缓存的用处server.js 代码...
2018-08-03 22:59:00
112
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人