李困困-CSDN博客

原创 win10下vs2015+python3+theano+keras+cuda8.0安装教程

本次安装教程vs2015，python，theano，keras，cuda均正确安装，但是无法使用gpu加速，各种配置均试过，均失败，还希望有热心博友帮忙解答安装vs2015及以下版本将c++有关选项选中安装完毕 CUDA需要C++的编译器，Windows下可以使用Visual C++，我们可以直接下载其官网推荐的Visual Studio。安装CUDA CUDA是nvidia提供可以使用

2016-10-28 12:18:56 9836 1

原创 Windows下git安装使用教程

本篇文章参考廖雪峰的git教程，并进行精简，帮助大家更快地使用git。git安装打开浏览器输入Git官网网站回车即可打开Git官网；点击里面的“Downloads for Windows”即调整到下载页面等待下载即可，现在最新版本为2.10.1我下载的安装包名为Git-2.10.1-64-bit.exe。双击既打开安装设置界面。然后点击“Next”；配置安装组件，默认即可，点击“Nex

2016-10-28 10:31:22 2580

原创 windows下安装xgboost教程

安装anaconda，官网下载地址：https://www.continuum.io/downloads/；我安装的是Python 3.6 version一步一步傻瓜式安装完毕anaconda；Python Extension Packages for Windows下载对应版本，我的是64位，python3.6，下载文件名为：xgboost-0.6-cp36-cp36m-win_amd64

2017-04-08 22:56:40 5743 2

这几年来，机器学习和数据挖掘非常火热，它们逐渐为世界带来实际价值。与此同时，越来越多的机器学习算法从学术界走向工业界，而在这个过程中会有很多困难。数据不平衡问题虽然不是最难的，但绝对是最重要的问题之一。一、数据不平衡在学术研究与教学中，很多算法都有一个基本假设，那就是数据分布是均匀的。当我们把这些算法直接应用于实际数据时，大多数情况下都无法取得理想的结果。因为实际数据往往分布得很不均匀，都会存在“长

2017-04-08 18:37:33 1953

原创 pandas多表操作，groupby，时间操作

多表操作merge合并 pandas.merge可根据一个或多个键将不同DataFrame中的行合并起来pd.merge(left, right)# 默认merge会将重叠列的列名当做键，即how='inner'，有多个重复列名则选取重复列名值都相同的行# 指定“on”作为连接键，left和right两个DataFrame必须同时存在“on”列，连接键也可N对N（少用）pd.merge(le

2017-03-30 10:56:52 10976

原创 pandas数据清洗，排序，索引设置，数据选取

此教程适合有pandas基础的童鞋来看，很多知识点会一笔带过，不做详细解释Pandas数据格式SeriesDataFrame：每个column就是一个Series基础属性shape,index,columns,values，dtypes，describe(),head(),tail() 统计属性Series： count(),value_counts()，前者是统计总数，后者统计各自valu

2017-03-29 21:34:23 94348 5

原创 pandas进阶

pandas使用get_dummies进行one-hot编码import pandas as pd df = pd.DataFrame([ ['green', 'M', 10.1, 'class1'], ['red', 'L', 13.5, 'class2'], ['blue', 'XL', 15.3, 'c

2017-03-28 15:22:49 904

原创 python pandas教程

#coding=utf-8import numpy as npimport pandas as pdimport matplotlib.pyplot as pyplot#s=pd.Series([7,'Heisenberg',3.14,-1789710578,'Happy Eating!'])#print s#Series可以转换字典d = {'Chicago': 1000, 'New Y

2017-03-27 11:04:34 3455

原创网络基础原理

IP路由技术描述IP路由基础知识路由和路由表路由协议概述直连路由，静态路由，动态路由作用范围分类：内部网关协议IGP：OSPF、ISIS、RIP 外部网关协议EGP：BGP路由协议算法分类：距离矢量算法路由协议：BGP、RIP 链路状态算法路由协议：OSPF、ISISIPv6技术描述地址：2^128个格式：IPv6=前缀（64位）+接口标识（64位）2001:0410:00

2017-03-27 11:00:18 610

原创 ubuntu下解决sublime text无法输入中文的问题

克隆项目到本地 :git clone https://github.com/lyfeyaj/sublime-text-imfix.git运行脚本 :cd sublime-text-imfix && ./sublime-imfix完成! 重新启动后就可以在 Sublime Text 2/3 中使用中文了!

2017-03-27 10:35:05 364

原创 leetcode（1）Two Sum

Given an array of integers, return indices of the two numbers such that they add up to a specific target.You may assume that each input would have exactly one solution, and you may not use the same ele

2017-03-24 20:31:37 267

原创 leetcode（43）Multiply Strings

Given two non-negative integers num1 and num2 represented as strings, return the product of num1 and num2.Note:The length of both num1 and num2 is < 110. Both num1 and num2 contains only digits 0-9.

2017-03-24 19:13:06 337

原创 Mysql进阶

典型单行函数大小写操作函数 lower（）转大写 upper（）转小写 initcap（）首字母大写字符操作函数 concat(‘h,’l’)字符连接 substr(‘hello’,1,5)取字符（从1取到5） length(‘helloworld’)字符串长度 instr(‘helloworld’,’w’)返回w在字符串的位置select round(45.926,2) tru

2017-03-23 23:05:32 409

原创 Mysql学习（基本指令、语句）

Mysql基本指令启动mysql net start mysql关闭mysql net stop mysql登陆mysql mysql -uroot -p123查看数据库 show databases;切换数据库 use test;查看数据库有哪些表 show tables;查看表结构或表字段 desc user;查看表记录 select * from user;退

2017-03-23 17:30:11 575

原创 PRML笔记

根均方误差（RMS）ERMS=2E(w∗)/N−−−−−−−−−√E_{RMS} = \sqrt {2E({w^*})/N}其中，除以NN让我们能够以相同的基础对比不同大小的数据集，平方根确保了ERMSE_{RMS}与目标变量tt使用相同的规模和单位进行度量。

2017-02-13 20:48:33 569

原创斯坦福CS231n - CNN for Visual Recognition（8）-lecture6学习率更新、超参数调优

本节主要讲了神经网络学习率退火和超参数调优等问题学习率更新学习率衰减　　训练深度网络时，让学习率随着时间退火通常很有帮助。如果学习率很高，系统的动能就过大，参数向量就会无规律地跳动，不能够稳定到损失函数更深更窄的部分去。　　何时开始衰减学习率是有技巧的：缓慢减小它，可能很长时间内只能是浪费计算资源地看着它混沌地跳动，实际进展很少。而如果快速地减小它，系统可能过快地失去能量，不能到达原本可以到达的最

2016-12-01 21:40:34 6826

原创斯坦福CS231n - CNN for Visual Recognition（7）-lecture6梯度检查、参数更新

本节主要介绍了神经网络学习参数和超参数调优等过程梯度检查　　梯度检查是非常重要的一个环节，就是将解析梯度和数值计算梯度进行比较。数值计算梯度时，使用中心化公式df(x)dx=f(x+h)−f(x−h)2h(推荐使用)\frac{df(x)}{dx} = \frac{f(x + h) - f(x - h)}{2h} \hspace{0.1in} \text{(推荐使用)} 　　其中hh在实践中近似

2016-12-01 20:26:53 3733

原创斯坦福CS231n - CNN for Visual Recognition（6）-lecture5预处理、正则化、损失函数

本节主要讲了数据预处理、正则化以及损失函数数据预处理关于数据预处理我们有3种常用的方式，假设数据矩阵XX，假设其尺寸是[N,D][N ,D]（NN是数据样本的数量，DD是数据的维度）。去均值去均值是预处理最常见的。对待训练的每一张图片的特征，都减去全部训练集图片的特征均值。它对数据中每个独立特征减去平均值，从几何上可以理解为在每个维度上都将数据云的中心都迁移到原点。在numpy中，该操作可以通过代

2016-11-30 16:18:24 3407 1

原创斯坦福CS231n - CNN for Visual Recognition（5）-lecture5激活函数、神经网络结构

本节从神经元讲起，分别介绍了激活函数和神经网络结构　　在线性分类中，我们使用s=Wxs=Wx计算类别的评分函数，其中WW为一个矩阵，xx为一个列向量，输出表示类别的评分向量。而在神经网络中，最常用的是s=W2max(0,W1x)s=W_2max(0,W_1x)，其中函数max(0,−)max(0,-)是非线性的，也可以使用其他的一些非线性函数。如果没有非线性函数，那么对于分类的评分计算将重新变成关

2016-11-29 22:22:30 2230

原创斯坦福CS231n - CNN for Visual Recognition（4）-lecture4反向传播

简单来说，反向传播是一种通过链式法则递归计算表达式的梯度的方法，本节主要介绍了给定f(x)f(x)，求解梯度∇f(x)\nabla f(x)的方法。理解反向传播，对神经网络的调整和优化优很大的帮助。在神经网络中，对应的是损失函数LL，输入xx包含训练数据和神经网络的权重。比如，损失函数为SVMSVM，输入包括了训练数据xi,yix_i,y_i、权重WW和偏差bb。而训练集是给定的，权重则是可以改变

2016-11-28 17:22:03 875

原创斯坦福CS231n - CNN for Visual Recognition（3）-lecture3（下）最优化

损失函数可以量化某个具体权重集WW的质量。而最优化的目标就是找到能够最小化损失函数值的WW ，本节主要讲最优化问题。最优化上节我们已经介绍了图像分类的两个关键部分：评分函数与损失函数，接下来就是最优化的问题了，即如何寻找使得损失函数值最小的WW。对于SVM 得分函数：f(xi,W)=Wxif(x_i,W)=Wx_i 损失函数：L=1N∑i∑j≠yi[max(0,f(xi;W)j−f(xi;

2016-11-25 21:32:26 1279

原创斯坦福CS231n - CNN for Visual Recognition（2）-lecture3（上）线性分类器、损失函数

本节主要讲了线性分类器（svm和softmax），损失函数以及最优化（梯度下降）的问题线性分类由于之前KNN分类器的缺点，让我们很自然地去寻找有一种更加强大地方法去完成图像分类任务，这种方法主要有两部分组成：评分函数（score function），它是原始图像数据到类别分值的映射（f(x)=Wxf(x)=Wx）。损失函数（loss function），它是用来量化预测分类

2016-11-24 10:09:40 3030

原创斯坦福CS231n - CNN for Visual Recognition（1）-lecture2图像分类、最近邻分类器

本节主要简单介绍了图像分类和流程，讲解了最近邻分类器的原理以及超参数的的调优与交叉验证图像分类顾名思义，就是给定一个图像，判断出它属于哪一个类。通常通过带有标签的数据作为训练集用各种方法进行训练，然后在测试集上进行测试，预测出最可能的类别（标签）。图像分类面临的困难：视角变化、大小变化、形变、遮挡、光照条件、背景干扰、类内差异等图像分类流程：输入->学习->评价最近邻分类器NN分类器的原理非常简

2016-11-23 14:11:33 687

原创 Deep learning基于theano的keras学习笔记（4）-其他重要模块

优化器

2016-11-22 12:55:20 484

原创 Deep learning基于theano的keras学习笔记（3）-网络层

常用层卷积层1. 常用层1.1 Dense层keras.layers.core.Dense(output_dim, init='glorot_uniform', activation='linear', weights=None, W_regularizer=None, b_regularizer=None, activity_regularizer=None, W_constraint=No

2016-11-21 18:16:07 8106

原创 Deep learning基于theano的keras学习笔记（2）-泛型模型（含各层的方法）

Keras的泛型模型为Model，即广义的拥有输入和输出的模型常用Model属性model.layers：组成模型图的各个层model.inputs：模型的输入张量列表model.outputs：模型的输出张量列表常用Model方法compile，fit，evaluate等跟sequential相似，就不介绍了下面以代码示例的方式学习泛型模型第一个模型：全连接网络from keras.l

2016-11-21 15:17:50 2097

原创 Deep learning基于theano的keras学习笔记（0）-keras常用的代码

一.保存Keras模型这里不推荐使用pickle或cPickle来保存Keras模型。 1. 一般使用model.save(filepath)将Keras模型和权重保存在一个HDF5文件中，该文件将包含：模型的结构，以便重构该模型模型的权重训练配置（损失函数，优化器等）优化器的状态，以便于从上次训练中断的地方开始使用keras.models.load_model(filepath)来重

2016-11-17 21:42:03 1731 1

原创 Deep learning基于theano的keras学习笔记（1）-Sequential模型

最近在看keras文档，想写博客却真的无从下手（其实就是没咋学会），想想不写点笔记过段时间估计会忘得更多，所以还是记录一下吧，感觉学习keras最好的方式还是去读示例的代码，后期也有想些keras示例代码注释的想法，但是现在还是老老实实地先记录keras的基础知识吧。《统计学习方法》中指出，机器学习的三个要素是模型，策略和优算法，这当然也适用于深度学习，而我个人觉得keras训练也是基于这三个要素

2016-11-17 17:12:42 8249

原创 CK+表情数据库转换为python数据格式保存（.pkl）

CK+数据库的下载及介绍上一个博文已经介绍过，本博文主要介绍将CK+表情数据库转换为python数据格式保存（.pkl）注：此代码运行前已经将数据库处理为64*64的照片详细讲解请见代码注释，如有疑问，欢迎交流下图是CK数据库的部分表情图片下面附代码1. 读取图片保存为.pkl文件#-*- coding: utf-8 -*- import osimport

2016-11-05 14:46:16 4195 4

原创 Python图像处理常用代码，numpy教程

这里的代码是截取的我的代码片段，或许难以阅读，有不理解的地方欢迎交流生成空列表及末尾添加x=[]x.append(img_path[j])字符串连接img_path=get_imlist('D:\\CK\\'+str(i)) #字符串连接图像矩阵和一维数组转化 img_ndarray=numpy.asarray(img,dtype='float64')/256 #将图像转化为数组并

2016-11-04 21:13:33 2703

原创 Python中对文件夹下的特定格式图像全部读取并转化为数组保存（也可转化为txt文件）

python下对图像进行批处理少不了读取文件夹下的全部图像，下面就以具体实例分享下对文件夹下的特定格式图像全部读取并转化为数组保存的代码，代码详解请见注释代码同时包含了矩阵和一维数组的相互转化我的图像位于D:\test中，目录中为以下文件里面的bmp文件为minist数据集的两张图片，大小为28*28 D:\test 的目录2016/11/03 21:19 <D

2016-11-03 21:27:21 10646 3

原创 Python中复合数据类型（list，turple以及切片，循环等操作）

本教程参考廖雪峰的python教程listlist是一种有序的集合，可以随时添加和删除其中的元素。列表的表示形式如下>>> c = ['A', 'B', 'C']>>> c['A', 'B', 'C']可用len()函数可以获得list元素的个数：len(c)可用索引来访问list中每一个位置的元素：c[0],c[1]如果要取最后一个元素，还可以用-1做索引，直接获取最后一个元素：c

2016-11-03 19:11:33 5074

原创 Python针对图像的基础操作

1. 读取图片转换为数组，输出维度，类型，某个坐标的像素，图像等。# -*- coding: utf-8 -*from PIL import Imagefrom pylab import *from numpy import *#读取图片并转为数组im = array(Image.open("example.jpg"))#输出数组的各维度长度以及类型print (im.shape,im

2016-11-03 18:28:43 2948

原创读文献中较常出现的英文单词（实时更新）

discrete 离散的 feasible 可行的 optimise 优化 convex 凸化的 trivial 不重要的 devise 设计；发明 symmetric 对称的 Empirically 以经验为主的 compromise 妥协；让步

2016-10-31 16:57:39 1149

原创 Python在不同目录下导入模块的方法

python在不同层级目录import模块的方法使用python进行程序编写时，经常会调用不同目录下的模块及函数。本篇博客针对常见的模块调用讲解导入模块的方法。1. 同级目录下的调用目录结构如下：– src |– mod1.py |– test1.py若在程序test1.py中导入模块mod1, 则直接使用*import mod1*或from mod1 import *;2.

2016-10-31 11:22:41 73783 3

原创 Emmet插件使用教程

emmet插件可以通过指令快速生成html以及css代码，给我们地开发工作带来极大地便利快速编写HTML代码初始化HTML文档需要包含一些固定的标签，比如：html、head、body等，现在你只需要1秒钟就可以输入这些标签。比如输入“!”或“html:5”，然后按Tab键： html:5 或!：用于HTML5文档类型 html:xt：用于XHTML过渡文档类型 html:4s：用于HTM

2016-10-28 13:05:53 712

原创 sublime text3优秀插件汇总（含安装教程）

自主安装sublime text3使用Package Control组件安装，步骤如下：按Ctrl+`调出console；粘贴以下代码到命令行并回车；import urllib.request,os; pf = 'Package Control.sublime-package'; ipp = sublime.installed_packages_path(); urllib.request.i

2016-10-28 11:28:36 1642

转载机器学习算法中如何选取超参数：学习速率、正则项系数、minibatch size

本文是《Neural networks and deep learning》概览中第三章的一部分，讲机器学习算法中，如何选取初始的超参数的值。（本文会不断补充）学习速率（learning rate，η）运用梯度下降算法进行优化时，权重的更新规则中，在梯度项前会乘以一个系数，这个系数就叫学习速率η。下面讨论在训练时选取η的策略。固定的学习速率。如果学习速率太小，则会

2016-10-27 18:23:51 412

转载正则化方法：防止过拟合，提高泛化能力

本文是《Neural networks and deep learning》概览中第三章的一部分，讲机器学习/深度学习算法中常用的正则化方法。（本文会不断补充）正则化方法：防止过拟合，提高泛化能力在训练数据不够多时，或者overtraining时，常常会导致overfitting（过拟合）。其直观的表现如下图所示，随着训练过程的进行，模型复杂度增加，在training d

2016-10-27 18:23:04 625

转载交叉熵代价函数

本文是《Neural networks and deep learning》概览中第三章的一部分，讲machine learning算法中用得很多的交叉熵代价函数。1.从方差代价函数说起代价函数经常用方差代价函数（即采用均方误差MSE），比如对于一个神经元（单输入单输出，sigmoid函数）,定义其代价函数为：其中y是我们期望的输出，a为神经元的实际输出【 a=σ(z

2016-10-27 17:28:44 315

空空如也

空空如也