winycg-CSDN博客

原创 IEEE模板的latex使用

IEEE模板下载下载IEEE的conference和transaction的latex模板文件： conference：https://www.ieee.org/conferences/publishing/templates.html transaction模板：https://ieeeauthorcenter.ieee.org/create-your-ieee-article/use-...

2018-07-02 22:06:24 71281 1

原创 docker常用命令

通过Dockerfile构建镜像docker build -t image-name docker-file-location-t:使用提供的image-name来标记构建的镜像运行docker容器docker run -d image-name

2018-06-15 00:32:15 217

原创 TensorFlow 利用Dataset读取和构建数据

参考链接： Dataset官方链接 TensorFlow全新的数据读取方式：Dataset API入门教程知乎：十图详解tensorflow数据读取机制（附代码）TensorFlow数据读取方式：利用placeholder读取内存数据利用queue读取硬盘中的数据Dataset API同时支持从内存和硬盘的读取，相比之前的两种方法在语法上更加简洁易懂Dataset创...

2018-06-05 22:07:36 15960 3

原创 linux ldconfig命令,环境变量文件配置详解

ldconfig参考：http://man.linuxde.net/ldconfig https://blog.csdn.net/chenzixun0/article/details/56278632 主要是在默认搜寻目录/lib和/usr/lib以及动态库配置文件/etc/ld.so.conf内所列的目录下，搜索出可共享的动态链接库（格式如lib*.so*）,进而创建出动态装入程序(ld...

2018-06-04 20:42:42 56138 3

原创 Caffe安装(Ubuntu16.04 GPU版本)以及入门

参考链接： Caffe官网 Caffe入门小教程 Caffe的全称为Convolutional Architecture for Fast Feature Embedding。主要优势如下： (1)容易上手，网络结构都是以配置文件.prototxt形式定义，类似json格式，不需要用代码设计网络。每一个神经网络模块都是一个Layer，使用许多顺序连接的Layer来描述神经网络结构。caff...

2018-06-02 21:27:51 2109

参考链接：Docker中文教程 Docker 是一个开源的应用容器引擎，基于 Go 语言并遵从Apache2.0协议开源。 Docker 可以轻松的为任何应用创建一个轻量级的、可移植的、自给自足的容器。开发者在笔记本上编译测试通过的容器可以批量地在生产环境中部署，包括VMs（虚拟机）、bare metal、OpenStack 集群和其他的基础应用平台。容器是完全使用沙箱机制，相互之间不会有任...

2018-06-02 01:07:53 7881

原创 Tensorflow实现AlexNet

测试前5层卷积层的前向计算与后向计算的时间：from datetime import datetimeimport mathimport timeimport tensorflow as tfbatch_size = 32num_batches = 100def print_activations(t): print(t.op.name, ' ', t.get_s...

2018-06-01 16:28:42 1288

原创集成学习

集成方法（Ensemable method）的目标是：将不同的分类器组成一个元分类器，与但个分类器相比，元分类器具有更好的泛化性能。通常使用多数投票的原则，将大多数分类器预测的结果作为最终的类标，即y^=mode(C1(x),C2(x),⋯,Cm(x)),mode为众数y^=mode(C1(x),C2(x),⋯,Cm(x)),mode为众数\hat{y}=mode{(C_{1}(x),C_{2}(...

2018-05-23 16:53:05 2648

原创分类器的不同的性能评价指标

读取混淆矩阵（confusion matrix）混淆矩阵是一个2×2的方阵，用于展示分类器预测的结果——真正（true positive），假负（false negative）、假正（false positive）及假负（false negative） sklearn中使用confusion_matrix函数实现：import matplotlib.pyplot as pltf...

2018-05-19 22:52:19 9393 1

原创网格搜索和随机搜索调优超参数&&嵌套交叉验证选择机器学习算法

网格搜索调优超参数通过对不同超参数列表进行暴力穷举搜索，并计算评估每个组合对模型性能的影响，以获得参数的最优组合。对SVM模型调优超参数：import matplotlib.pyplot as pltfrom sklearn.model_selection import GridSearchCVfrom sklearn.svm import SVCfrom sklearn.l...

2018-05-17 23:41:35 6242 1

原创偏差-方差分解，学习和验证曲线评估模型

偏差和方差参考链接：https://www.zhihu.com/question/20448464 欠拟合=高偏差，过拟合=高方差

2018-05-16 19:56:22 1376

原创模型选择和交叉验证

模型选择holdout方法在典型的机器学习应用中，为进一步提高模型在预测未知数据的性能，还要对不同的参数设置进行调优和比较，该过程称为模型选择。指的是针对某一特定问题，调整参数以寻求最优超参数的过程。假设要在10个不同次数的二项式模型之间进行选择： 1.hθ(x)=θ0+θ1x2.hθ(x)=θ0+θ1x+θ2x23.hθ(x)=θ0+θ1x+⋯+θ2x3⋯10.hθ(x)=θ0...

2018-05-16 13:10:06 16235

原创正则化(Regularization)

参考：https://www.cnblogs.com/jianxinzhou/p/4083921.html 线性回归中的三种形式：注：我们讨论的线性或者非线性针对的是自变量的系数，而非自变量本身，所以这样的话不管自变量如何变化，自变量的系数如果符合线性我们就说这是线性的。所以这里我们也就可以描述一下多项式线性回归。如：y=w0+w1xi+w2x2i+⋯+wmxmi+εi（i=1,2,⋯,...

2018-05-14 18:06:54 8178

原创参数估计和最大似然估计

点估计设总体XXX的分布函数的形式已知，但它的一个或多个参数未知，借助于总体XXX的一个样本来估计总体未知参数的值得问题称为参数的点估计问题。举例：某炸药厂，一天中发生着火现象的次数XXX是一个随机变量，假设XXX服从λ&amp;amp;amp;amp;amp;gt;0λ&amp;amp;amp;amp;amp;gt;0\lambda&amp;amp;amp;amp;gt;0泊松分布,即X∼π(λ)X∼π(λ)X \sim \pi(\l

2018-05-12 19:37:52 1495

原创逻辑斯谛回归（logistic regression）

对于二分类问题，输出标记为y∈{0,1}y∈{0,1}y \in \{0, 1 \},0表示负向类，1表示正向类。需要通过一个函数将线性回归模型wTx+bwTx+bw^{T}x+b的输出值映射到[0,1][0,1][0,1]范围内，这个函数就是对数几率函数(logistic function),也称为sigmoid函数：ϕ(z)=11+e−zϕ(z)=11+e−z\phi(z)=\frac{1}{...

2018-05-12 17:01:44 2540

原创 linux常用命令整理

路径切换cd /home/winycg/ # 转到该目录下cd .. # 转到上一级目录cd ../.. # 转到上两级目录cd - # 输出上一次所在目录的绝对路径并定位到上次所在路径cd ~user1 # 进入个人所在的主目录pwd # 显示当前的绝对路径文件查看ls # 查看目录中的文件 ls -F # 查看目录中的文件，文件夹后带/ ls -l...

2018-05-07 00:06:58 403 1

原创利用线性函数实现鸢尾花数据集分类

从鸢尾花数据集中挑选山鸢尾(iris-Setosa)和变色鸢尾(iris-Versicolor) 两种花的信息作为测试数据。出于可视化的原因，只考虑数据集中萼片长度(sepla length)和花瓣长度(petal length)这两个特征。import pandas as pddf = pd.read_csv(r'http://archive.ics.uci.edu/ml/m...

2018-05-04 23:50:54 5200

原创梯度下降原理推导

方向导数设lll是xoy平面上以(x0,y0)(x0,y0)(x_{0},y_{0})为始点的一条射线，el=(cosα,cosβ)el=(cosα,cosβ)e_{l}=(cos \alpha, cos \beta)是与lll同方向的单位向量，射线lll的参数方程为x=x0+tcosαx=x0+tcosαx=x_{0}+tcos\alphay=y0+tcosβy=y0+tcosβy=y_{0...

2018-05-02 17:03:39 970

原创将python包发布到PyPI和制作whl文件

参考链接： wheel和egg的不同怎样将自己写的包传达到PyPi 发布你自己的轮子 - PyPI打包上传实践 PyPI官网上传包教程wheel文件Wheel和Egg都是python的打包格式，目的是支持不需要编译或制作的安装过程，实际上也是一种压缩文件，将.whl的后缀改为.zip即可可看到压缩包里面的内容。按照官网说法，wheels是发行版Python的新标准并且要取代....

2018-04-20 23:33:13 35269 4

原创怎样使用QQ邮箱代收163邮箱的邮件

参考：网易163邮箱帮助首先介绍一下什么是POP3,SMTP和IMAP POP3 POP3是Post Office Protocol 3的简称，即邮局协议的第3个版本,它规定怎样将个人计算机连接到Internet的邮件服务器和下载电子邮件的电子协议。它是因特网电子邮件的第一个离线协议标准,POP3允许用户从服务器上把邮件存储到本地主机（即自己的计算机）上,同时删除保存在邮件服务器上的邮件，...

2018-04-19 17:15:46 37854 3

原创使用gym模拟强化学习环境

参考链接： OpenAI环境库官网：https://gym.openai.com/envs/ OpenAI环境库github：https://github.com/openai/gym/Classic controlCartPole 环境描述：运载体无摩擦地支撑杆子。动作：2个动作：施加-1和+1分别对应向左向右推动运载体状态：4个，x：位置;x_dot：移动速度, th...

2018-04-11 15:55:24 12943 3

原创 windows10和Ubuntu16.04系统安装及配置NVIDIA显卡环境

参考链接：http://docs.nvidia.com/deeplearning/sdk/cudnn-install/index.htmlWindows101.安装好Anaconda，打开Anaconda Prompt，输入如下安装tensorflow的GPU版本pip install tensorflow-gpu去NVIDIA官网下载对应版本的显卡驱动： http://...

2018-04-09 10:27:28 4851 2

原创 Jupyter Notebook详解

Jupyter Notebook（此前被称为 IPython notebook）是一个交互式代码编写环境，本质上是一个Web应用程序，便于创建和共享程序文档，支持实时代码，数学方程，可视化和markdown。常用于数据清理和转换，数值模拟，统计建模和机器学习。交互式的环境，可以一次运行一段代码，并且运行的结果会保存在内存中，不像IDE，运行一次就会清空内存。使用方法：在电脑上安装A...

2018-04-07 23:07:02 2981

原创 Tensorflow实现多GPU并行

Tebsorflow开源实现多GPU训练cifar10数据集：cifar10_multi_gpu_train.pyTensorflow开源实现cifar10神经网络：cifar10.py Tensorflow中的并行分为模型并行和数据并行。模型并行需要根据不同模型设计不同的并行方式，其主要原理是将模型中不同计算节点放在不同硬件资源上运算。比较通用且能简便地实现大规模并行的方式是数据并行，同时...

2018-03-30 16:11:38 8912 10

原创使用VNC和SSH连接Windows和Linux以及Linux和Linux

参考链接：莫凡VNC连接教程使用VNC远程控制Linux端（Server端）安装x11vnc软件，相当于VNC的server端sudo apt-get install x11vnc设置连接VNC-server时的密码：x11vnc -storepasswd开启VNC-server，并使用密码的方式建立连接x11vnc -usepwWindow...

2018-03-27 19:46:30 6704

原创 python多进程利用Multiprocessing运行程序

参考链接： multiprocessing官网 https://blog.csdn.net/cityzenoldwang/article/details/78584175 博主整理 https://blog.csdn.net/quqiuzhu/article/details/51156454博主整理Process类Process 类用来描述一个进程对象。创建子进程的时候，只需...

2018-03-26 17:29:30 11952

原创 ES实现强化学习

参考文献： ES实现强化学习论文-from OpenAI Mirrored Sampling and Sequential Selection for Evolution Strategies https://morvanzhou.github.io/tutorials/machine-learning/evolutionary-algorithm/4-04-evolution-strate...

2018-03-24 23:49:30 3827 1

原创基于HyperNEAT等NEAT扩展算法的研究

参考链接： HyperNEAT介绍 MultiNEAT库官网 NEAT各扩展代码库 MultiNEAT库github安装以及使用MultiNEAT库（基于Ubuntu 16.04）1.安装Anaconda环境，安装MultiNEAT库Anaconda安装路径：/home/winycg/conda install multineat -c anton.matosov...

2018-03-21 15:46:17 3160 3

原创强化学习-Policy Gradients

策略网络，即建立一个神经网络模型，通过观察环境状态，直接预测出目前应该执行的策略(Policy)，执行这个策略可以获得最大期望收益。策略网络不只是使用当前的reward作为期望收益，而是使用discounted future reward，即把未来奖励乘上衰减系数γ，γ为略小于1的数，期望收益为r=r1+γr2+γ2r3+⋯+γn−1rnr=r1+γr2+γ2r3+⋯+γn−1rnr=r_{1}+...

2018-03-19 22:57:31 1684

转载遗传算法总结

参考链接：http://blog.csdn.net/tsroad/article/details/52448313http://blog.sina.com.cn/s/blog_5698433c0102v0d9.html

2018-03-17 14:28:00 274

原创使用gym库Classic control实现deep Q learning

参考链接：https://gym.openai.com/envs/ OpenAI gym官网https://github.com/openai/gym#installation gym安装教程http://blog.csdn.net/cs123951/article/details/77854453 MountainCar原理参考OpenAI gym提供了强化学习时的环境模块，使得我们实现...

2018-03-07 11:30:06 3204 4

原创 NEAT（基于NEAT-Python模块）实现监督学习和强化学习

参考链接：http://nn.cs.utexas.edu/downloads/papers/stanley.ec02.pdf NEAT论文https://morvanzhou.github.io/tutorials/machine-learning/evolutionary-algorithm/4-01-neuro-evolution/ 莫凡python NEAThttp://neat-pyt...

2018-03-03 23:51:31 15760 8

翻译深度学习相关优化器以及在tensorflow的使用

参考链接：https://arxiv.org/pdf/1609.04747.pdf 优化器对比论文https://www.leiphone.com/news/201706/e0PuNeEzaXWsMPZX.html 论文翻译版http://blog.csdn.net/u014381600/article/details/72867109 Adam和SGD优化器比较梯度下降...

2018-02-24 16:30:06 6551 2

原创强化学习-DQN

参考链接：Deep Q Network 的简称叫 DQN, 是将 Q learning 的优势和 Neural networks 结合了. 如果我们使用 tabular Q learning, 对于每一个 state, action 我们都需要存放在一张 q_table 的表中. 如果像显示生活中, 情况可就比那个迷宫的状况复杂多了, 我们有千千万万个 state, 如果将这千万个 state ...

2018-02-23 18:36:05 818 1

原创强化学习-Sarsa

教学链接：https://morvanzhou.github.io/tutorials/machine-learning/reinforcement-learning/3-1-A-sarsa/学习该算法之前，需要先了解Q-learning，与之进行比较，Q-learning教程：http://blog.csdn.net/winycg/article/details/79255960比较一下Q-le...

2018-02-18 19:27:19 2320

原创 wxPython绘制相关图形

参考链接：http://blog.csdn.net/tony_wong/article/details/17735999http://blog.csdn.net/webzhuce/article/details/72598876https://www.yiibai.com/wxpython/wxpython_drawing_api.htmlhttp://blog.sina.com.cn/s/blo...

2018-02-11 23:28:55 2160

原创强化学习-Q learning

参考链接：http://blog.csdn.net/itplus/article/details/9361915https://www.zhihu.com/question/26408259/answer/123230350https://morvanzhou.github.io/tutorials/machine-learning/reinforcement-learning/2-2-A-q-l...

2018-02-05 00:40:19 4057 1

原创 python pip相关命令

打开命令行，输入： pip --help之后，可以显示pip的相关命令安装pip：sudo easy_install pip列出已安装的包: pip freeze 或者 pip list导出requirements.txt：pip freeze > /requirements.txt安装包在线安装：pip install 或 pip install -r req

2018-02-04 19:52:35 732

原创 ubuntn 16.04LTS下安装Python3.6.4、anaconda和pycharm

参考链接：http://blog.csdn.net/yanzhibo/article/details/75913347安装Python3.6.4首先设定将python文件安装的目录，在这里我设为home文件夹下，然后打开“终端”1.下载Python 3.6.4的安装文件：wget https://www.python.org/ftp/python/3.6.2/Python-

2018-02-03 12:10:02 1110

原创 ubuntn系统（双系统）安装教程

1.制作ubuntn系统启动U盘（1）首先下载软碟通UltraISO，http://www.ezbsystems.com/ultraiso/，用于将ubuntn镜像写入U盘打开UItralSO，并点击菜单栏上的“文件”→“打开”，选择打开下载的镜像文件（2）点击菜单栏中的“启动”→“写入硬盘镜像”点击“便捷启动”→“写入新的驱动器引导扇区”→"Syslinux"然后点击“写入”，即可将镜像写入文件...

2018-01-25 16:39:09 1047