- 博客(103)
- 资源 (4)
- 收藏
- 关注
RSS订阅转载 github上热门深度学习项目
github上热门深度学习项目项目名Stars描述TensorFlow29622使用数据流图进行可扩展机器学习的计算。Caffe11799Caffe：深度学习的快速开放框架。[Neural Style](https://github.com/jcjohnson/neural-style)10148火炬实现神经风格...
2019-09-13 15:14:00
555
转载 改进版梯度下降
改进版梯度下降 发展历史标准梯度下降法的缺陷如果学习率选的不恰当会出现以上情况因此有一些自动调学习率的方法。一般来说，随着迭代次数的增加，学习率应该越来越小，因为迭代次数增加后，得到的解应该比较靠近最优解，所以要缩小步长η，那么有什么公式吗？比如：，但是这样做后，所有参数更新时仍都采用同一个学习率，即学习率不能适应所有的参数更新。解决方案是：给不同的参数不同的...
2019-09-10 08:28:00
249
转载 git常用命令
git初始化git init验证能否连接ssh -T git@github.com设置用户git config --global user.name "用户名"设置邮箱git config --global user.email "邮箱地址"设置连接源 git remote add origin git@github.com:用户名/repository名字git add 文件或者文件夹...
2019-09-01 13:01:00
217
转载 git项目管理
1.创建版本库先创建目录，作为仓库git init 初始化仓库，可以发现当前目录下多了一个.git的目录，这个目录是Git来跟踪管理版本库的，没事千万不要手动修改这个目录里面的文件，不然改乱了，就把Git仓库给破坏了新建一个名字叫readme.txt文本文件，比如往里面添加简单的一行字符串git add readme.txt 添加一个...
2019-09-01 12:56:00
341
转载 xgboost保险赔偿预测
XGBoost解决xgboost保险赔偿预测import xgboost as xgbimport pandas as pdimport numpy as npimport pickleimport sysimport matplotlib.pyplot as pltfrom skle...
2019-08-30 17:31:00
352
转载 XGBoost对波士顿房价进行预测
import numpy as npimport matplotlib as mplmpl.rcParams["font.sans-serif"] = ["SimHei"]import matplotlib.pyplot as pltimport pandas as pdfrom sklearn.model_selection import train_te...
2019-08-30 17:10:00
1383
转载 XGBoost 重要参数(调参使用)
XGBoost 重要参数(调参使用)数据比赛Kaggle,天池中最常见的就是XGBoost和LightGBM。模型是在数据比赛中尤为重要的，但是实际上，在比赛的过程中，大部分朋友在模型上花的时间却是相对较少的，大家都倾向于将宝贵的时间留在特征提取与模型融合这些方面。在实战中，我们会先做一个baseline的demo，尽可能快尽可能多的挖掘出模型的潜力，以便后期将精力花在特征和模型...
2019-08-30 17:04:00
1100
转载 xgboost与gdbt的不同和优化
XGBoost是GBDT算法的一种变种，是一种常用的有监督集成学习算法；是一种 伸缩性强、便捷的可并行构建模型的Gradient Boosting算法Xgboost和GBDT不同之处xgboost在目标函数中显示的加上了正则化项，基学习器为CART时，正则化项与树的叶子节点的数量T和叶子节点的值有关。上面提到CART回归树中寻找最佳分割点的衡量标准是最小化均方差，xgboos...
2019-08-30 16:56:00
182
转载 基于OpenCV制作道路车辆计数应用程序
基于OpenCV制作道路车辆计数应用程序发展前景随着科学技术的进步和工业的发展，城市中交通量激增，原始的交通方式已不能满足要求；同时，由于工业发展为城市交通提供的各种交通工具越来越多，从而加速了城市交通事业的发展。道路容量严重不足 汽车增长速度过快 公共交通日趋萎缩交通设施条件不足 缺乏整体发展战略交通计数应用程序是为了统计交通...
2019-08-27 11:00:00
1933
转载 卷积神经网络cnn的实现
卷积神经网络代码：https://github.com/TimVerion/cat卷积层卷积层：通过在原始图像上平移来提取特征，每一个特征就是一个特征映射原理:基于人脑的图片识别过程，我们可以认为图像的空间联系也是局部的像素联系比较紧密，而较远的像素相关性比较弱，所以每个神经元没有必要对全局图像进行感知，只要对局部进行感知，而在更高层次对局部的信息进行综合操作得出...
2019-08-22 21:11:00
263
转载 Python 数据科学-Numpy
NumPyNumpy ：提供了一个在Python中做科学计算的基础库，重在数值计算，主要用于多维数组（矩阵）处理的库。用来存储和处理大型矩阵，比Python自身的嵌套列表结构要高效的多。本身是由C语言开发，是个很基础的扩展，Python其余的科学计算扩展大部分都是以此为基础。高性能科学计算和数据分析的基础包ndarray，多维数组（矩阵），具有矢量运算能力，...
2019-08-22 08:28:00
204
转载 OpenCV学习笔记5
OpenCV学习笔记5图像变换傅里叶变换这里可以先学习一下卷积分，了解清除卷积的过程和实际意义，在看这一章节的内容。原理:傅里叶变换经常被用来分析不同滤波器的频率特性。我们可以使用 2D 离散傅里叶变换 (DFT) 分析图像的频域特性。实现 DFT 的一个快速算法被称为快速傅里叶变换（FFT）。关于傅里叶变换的细节知识可以在任意一本图像处理或信号处理的书中找到...
2019-08-20 19:55:00
105
转载 OpenCV学习笔记3
OpenCV学习笔记3图像平滑(低通滤波)使用低通滤波器可以达到图像模糊的目的。这对与去除噪音很有帮助。其实就是去除图像中的高频成分（比如：噪音，边界）。所以边界也会被模糊一点。（当然，也有一些模糊技术不会模糊掉边界）。OpenCV 提供了四种模糊技术。2D 卷积对 2D 图像实施低通滤波（LPF:low pass filter），高通滤波（HPF:high pass f...
2019-08-20 19:48:00
146
转载 OpenCV学习笔记2
OpenCV学习笔记2OpenCV中的图像处理颜色空间的转换：最常用的：BGR->Gray和BGR->HSV我们要用到的函数是：cv2.cvtColor(input_image，flag)，其中 flag就是转换类型。在 OpenCV 的 HSV 格式中，H（色彩/色度）的取值范围是 [0，179]， S（饱和度）的取值范围 [0，255]，V（亮度）...
2019-08-20 19:42:00
155
转载 OpenCV学习笔记1
OpenCV学习笔记1引入图片的显示读取写入import cv2image = cv2.imread("timg.jpg") #第二个参数可以选择色彩，例如灰色：cv2.IMREAD_GRAYSCALE# 显示图片cv2.imshow("timg1",image)# 等待键盘输入，否则一闪而过cv2.waitKey()# cv2.imwrite("...
2019-08-20 18:50:00
160
转载 尝试博客园快捷发布工具
博客园快捷发布工具一.准备环境安装.NET Core SDK: https://www.microsoft.com/net/learn/get-started/windows.NET Core SDK 2.1：点我下载运行本程序必须需要.NET Core 2.1或者更高版本二.第一种安装方法.NET Core Global Tool 是 .NET Core...
2019-08-19 19:56:00
128
转载 博客园快捷发布工具
博客园快捷发布工具一.准备环境安装.NET Core SDK: https://www.microsoft.com/net/learn/get-started/windows.NET Core SDK 2.1：点我下载运行本程序必须需要.NET Core 2.1或者更高版本二.第一种安装方法.NET Core Global Tool 是 .NET Core...
2019-08-19 19:55:00
314
转载 ILSVRC比赛带来的算法
李飞飞和它的团队搜集了ImageNet一个超过15 million的图像数据集，大约有22,000类。这个文件集合对深度卷积网络极大地推进深度学习各领域的发展.ILSVRC是对ImageNet进行分类,检测,定位的比赛,作为最具影响力的竞赛它的作用功不可没，从中也促使了许多经典工作。ImageNet的定位结果年网络/队名val top-5test top-5备注...
2019-08-19 18:54:00
255
转载 测试驱动的开发
测试驱动的开发TDD是软件开发史上最重要的里程碑之一。TDD主要专注于自动单元测试，它的目标是尽最大限度自动化测试代码。如果代码被改动，我们仍可以运行测试并捕捉可能存在的问题。换言之，测试对于已经存在的功能模块依然有效。断言函数比较两个浮点数的大小：assert_almost_equal 如果两个数字的近似程度没有达到指定精度，就抛出异常assert_approx_e...
2019-08-13 10:34:00
60
转载 神经网络单样本
前向传播:代价函数:反向传播:转载于:https://www.cnblogs.com/TimVerion/p/11339491.html
2019-08-12 13:43:00
145
转载 Xgboost
Xgboost思想：怎么样在当前模型再加入一个基础模型，使得组合后的效果更好。问题：是否会玩电脑游戏？目标函数：如何得到最优解：集成算法的表示:基础模型:决策树模型集成方法:并行构造多棵树?没那么简单,一个一个的加!????问题:每一轮加入一个什么样的基础模型呢?✒️解决方案:加了它能优化我的目标函数树模...
2019-08-09 11:50:00
94
转载 RBF神经网络
RBF神经网络RBF神经网络通常只有三层，即输入层、中间层和输出层。其中中间层主要计算输入x和样本矢量c（记忆样本）之间的欧式距离的Radial Basis Function (RBF)的值，输出层对其做一个线性的组合。径向基函数：RBF神经网络的训练可以分为两个阶段：第一阶段为无监督学习，从样本数据中选择记忆样本/中心点；可以使用聚类算法，也可以选择随机给定的方式。...
2019-08-08 19:28:00
2962
转载 聚类算法的衡量指标
聚类算法的衡量指标混淆矩阵con = confusion_matrix(y_test,y_pred)import matplotlib.pyplot as pltcmap = plt.cm.get_cmap('RdYlBu')plt.imshow(con,cmap = cmap)plt.show()均一性一个簇中只包含一个类别的样本，则满足...
2019-08-08 18:41:00
392
转载 GBDT笔记
GBDT笔记GBDT是Boosting算法的一种，谈起提升算法我们熟悉的是Adaboost，它和AdaBoost算法不同；区别如下： AdaBoost算法是利用前一轮的弱学习器的误差来更新样本权重值，然后一轮一轮的迭代；GBDT也是迭代，但是GBDT要求弱学习器必须是CART模型，而且GBDT在模型训练的时候，是要求模型预测的样本损失尽可能的小。GBDT由三部分...
2019-08-07 15:41:00
144
转载 PCA降维笔记
PCA降维笔记一个非监督的机器学习算法主要用于数据的降维通过降维， 可以发现更便 于人类理解的特征其他应用：可视化；去噪PCA（Principal Component Analysis）是一种常用的数据分析方法。PCA通过线性变换，将原始数据变换为一组各维度线性无关的表示，可用于提取数据的主要特征分量，常用于高维数据的降维。...
2019-08-05 21:16:00
207
转载 机器学习-文本处理
基础知识语料库(corpus)：语料库有三点特征语料库中存放的是在语言的实际使用中真实出现过的语言材料，因此例句库通常不应算作语料库；语料库是承载语言知识的基础资源，但并不等于语言知识；真实语料需要经过加工（分析和处理），才能成为有用的资源。北京大学语料库(http://icl.pku.edu.cn/ )北大计算语言学研究所俞士汶教授主持，北大、富士通、人民日报社共同开发《人民日...
2019-07-28 21:22:00
700
转载 机器学习-推荐系统
推荐系统简介推荐系统是利用电子商务网站向客户提供商品信息和建议，帮助用户决定应该购买什么产品，模拟销售人员帮助客户完成购买过程。个性化推荐是根据用户的兴趣特点和购买行为，向用户推荐用户感兴趣的信息和商品。前景随着电子商务规模的不断扩大，商品个数和种类快速增长，顾客需要花费大量的时间才能找到自己想买的商品。这种浏览大量无关的信息和产品过程无疑会使淹没在信息过载问题中的消费者...
2019-07-27 11:49:00
1658
转载 机器学习-svd实现人脸识别
加载sklearn中的人脸数据集from sklearn.datasets import fetch_lfw_peoplefaces = fetch_lfw_people()执行上面的第二行程序，python会从网上下载labeled_face_wild people数据集，这个数据集大概200M，因为墙的原因下载很慢失败。使用百度云下载该数据集，是个.tgz的压...
2019-07-26 17:11:00
1702
转载 机器学习-数学基础
常见函数常函数: 一次函数:二次函数:幂函数:指数函数:，a的取值范围为: a>0&a≠1对数函数:, a的取值范围为: a>0&a≠1对数的运算指数的运算导数 一个函数在某一点的导数描述了这个函数在这一点附近的变化率，也可以认为是函数在某一点的导数就是该函数所代表的曲线在这一点的切线斜率。导数值越...
2019-07-26 10:45:00
386
转载 pycharm常用快捷键
1、编辑（Editing）Ctrl + Space 基本的代码完成（类、方法、属性）Ctrl + Alt + Space 快速导入任意类Ctrl + Shift + Enter 语句完成Ctrl + P 参数信息（在方法中调用参数）Ctrl + Q 快速查看文档F1 外部文档Shift + F1 外部文档，进入web文档主页Ctrl + ...
2019-07-26 08:19:00
81
转载 深度学习-神经网络
神经网络深度学习（deep learning）是机器学习下的分支它试图使用包含复杂结构或由多重非线性变换 构成的多个处理层对数据进行高层抽象的算法。深度学习是机器学习中一种基于对数据进行表征学习的方法。观测值（例如一幅图像）可以使用多种方式来表示，如每个像素强度值的向量，或者更抽象地表示成一系列边、特定形状的区域等。而使用某些特定的表示方法更容易从实例中学习任务（例如...
2019-07-26 08:12:00
609
转载 深度学习-卷积神经网络
卷积神经网络CNN卷积神经网络和普通神经网络非常相似：它们由具有学习权重和偏差的神经元组成。每个神经元接收一些输入，执行点积，并且可选地以非线性跟随它。整个网络仍然表现出单一的可微分评分功能：从一端的原始图像像素到另一个类的分数。并且在最后（完全连接）层上它们仍然具有损失函数，并且我们为学习正常神经网络开发的所有技巧/技巧仍然适用。CNN每一层都通过可微分的函数将一个...
2019-07-26 08:00:00
317
转载 深度分析-梯度下降
梯度下降由于梯度下降法中负梯度方向作为变量的变化方向，所以有可能导 致最终求解的值是局部最优解，所以在使用梯度下降的时候，一般需 要进行一些调优策略： 学习率的选择：学习率过大，表示每次迭代更新的时候变化比较大，有可能 会跳过最优解；学习率过小，表示每次迭代更新的时候变化比较小，就会导 致迭代速度过慢，很长时间都不能结束；算法初始参数值的选择：初始值不同，...
2019-07-24 17:05:00
341
转载 机器学习-特征值,svd分解
求矩阵的秩设 ，已知r(A)=2，则参数x，y分别是解：任意三阶子式=0，有二阶子式≠0，但是这些子式比较多，可以使用初等变换，因为初等变换不改变矩阵的秩，可以将矩阵通过初等行（列）变换，化为行阶梯矩阵，有几行不等于0，秩就是几。行列式的转换 Am×nx=0只有零解 <=> r(...
2019-07-24 14:45:00
395
转载 深度学习-mnist手写体识别
mnist手写体识别Mnist数据集可以从官网下载，网址：http://yann.lecun.com/exdb/mnist/下载下来的数据集被分成两部分：55000行的训练数据集（mnist.train）和10000行的测试数据集（mnist.test）。每一个MNIST数据单元有两部分组成：一张包含手写数字的图片和一个对应的标签。我们把这些图片设为“xs”，把这些标...
2019-07-24 11:53:00
421
转载 深度学习-交叉熵损失
SoftMax回归对于MNIST中的每个图像都是零到九之间的手写数字。所以给定的图像只能有十个可能的东西。我们希望能够看到一个图像，并给出它是每个数字的概率。例如，我们的模型可能会看到一个九分之一的图片，80％的人肯定它是一个九，但是给它一个5％的几率是八分之一（因为顶级循环），并有一点概率所有其他，因为它不是100％确定。这是一个经典的情况，其中softmax回归是一种自然...
2019-07-24 11:51:00
321
转载 机器学习-EM算法
最大期望算法EM算法的正式提出来自美国数学家Arthur Dempster、Nan Laird和Donald Rubin，其在1977年发表的研究对先前出现的作为特例的EM算法进行了总结并给出了标准算法的计算步骤，EM算法也由此被称为Dempster-Laird-Rubin算法。1983年，美国数学家吴建福（C.F. Jeff Wu）给出了EM算法在指数族分布以外的收敛性证明。...
2019-07-23 17:22:00
241
转载 机器学习-EM算法的收敛证明
上一篇开头说过1983年，美国数学家吴建福（C.F. Jeff Wu）给出了EM算法在指数族分布以外的收敛性证明。EM算法的收敛性只要我们能够证明对数似然函数的值在迭代的过程中是增加的即可:证明:一直我们的EM算法会极大化这个似然函数L,问题得证.转载于:https://www.cnblogs.com/TimVerion/p/1123308...
2019-07-23 17:16:00
407
转载 机器学习-层次聚类（划分聚类）
层次聚类（划分聚类）聚类就是对大量未知标注的数据集，按照数据内部存在的数据特征将数据集划分为多个不同的类别，使类别内的数据比较相似，类别之间的数据相似度比较小；属于无监督学习。算法步骤1.初始化的k个中心点2.为每个样本根据距离分配类别3.更新每个类别的中心点（更新为该类别的所有样本的均值）4.重复上面两步操作，直到达到某个中止条件层次聚类方法对给定的数...
2019-07-23 08:19:00
1523
转载 机器学习-FP Tree
接着是上一篇的apriori算法:FP Tree数据结构 为了减少I/O次数，FP Tree算法引入了一些数据结构来临时存储数据。这个数据结构包括三部分，如下图所示第一部分是一个项头表。里面记录了所有的1项频繁集出现的次数，按照次数降序排列。比如上图中B在所有10组数据中出现了8次，因此排在第一位，这部分好理解。第二部分是FP Tree，...
2019-07-22 17:10:00
202
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人