2017年12月_蓝色枫魂

原创 DNN训练技巧（Tips for Training DNN）

本博客是针对李宏毅教授在Youtube上上传的课程视频《ML Lecture 9-1：Tips for Training DNN》的学习笔记。课程链接Recipe of Deep Learning训练集上效果差换激活函数New activation function自适应学习率Adaptive Learning Rate训练集上效果好的基础上测试集上效果差早停Early Stopping

2017-12-26 17:19:08 10904 2

转载使用sklearn做单机特征工程（Performing Feature Engineering Using sklearn）

本文转载自使用sklearn做单机特征工程目录目录特征工程是什么数据预处理1 无量纲化11 标准化12 区间缩放法13 标准化与归一化的区别2 对定量特征二值化3 对定性特征哑编码4 缺失值计算5 数据变换6 回顾特征选择1 Filter11 方差选择法12 相关系数法13 卡方检验2 Wrapper21 递归特征消除法3 Embedded31 基于惩罚项的特

2017-12-25 18:33:46 300

原创鸟叔的linux私房菜：第0章计算机概论学习笔记（Learning Notes for Basic Computer Theory）

本博客是针对《鸟叔的Linux私房菜基础学习篇第四版》的第0章计算机概论的学习笔记。1 电脑辅助人脑的好工具11 计算机硬件的五大单元12 一切设计的起点CPU的架构其它单元的设备运行流程电脑按用途分类电脑上面常用的计算单位容量速度等2 个人电脑架构与相关设备元件21 执行脑袋运算与判断的 CPU22 内存23 显卡24 硬盘与存储设备3 数据表示方式31 数字系统

2017-12-25 10:18:54 1857

原创深度学习框架Keras学习系列（三）：Keras神经网络框架

IntroductionInstallationFast OverviewSequential modelSpecifying the Input ShapeCompilationTrainingExamplesExample 1 minist_mlp A simple deep multi-layer perceptron on the MNIST datasetExample

2017-12-21 20:21:57 3671 1

原创特征选择与稀疏学习（Feature Selection and Sparse Learning）

本博客是针对周志华教授所著《机器学习》的“第11章特征选择与稀疏学习”部分内容的学习笔记。在实际使用机器学习算法的过程中，往往在特征选择这一块是一个比较让人模棱两可的问题，有时候可能不知道如果想要让当前的模型效果更好，到底是应该加还是减掉一些特征，加又是加哪些，减又是减哪些，所以借着对这一章内容的学习，希望可以在文末解决这个疑惑。子集搜索与评价子集搜索subset search子集评价subs

2017-12-21 17:33:40 5633

原创对抗生成网络（Generative Adversarial Network）

本课程是针对李宏毅教授在Youtube上上传的机器学习课程视频的学习笔记。课程视频地址IntroductionOutlineBasic Idea of GANWhen do we need GANIntroduction某人在Quara上的问题：非监督学习领域最近有没有什么突破性的进展呢？Lecun大神亲自回答：对抗训练可能是有史以来（since sliced bread，有一个好东西出现的意

2017-12-20 19:30:01 1595

原创循环神经网络（Recurrent Neural Network）

IntroductionFrameworkRNN ExampleVariants of RNNJordan Network store output into memoryBidirectional RNNLong Short-term Memory LSTMFrameworkRelationship with original networkIntroduction假设我们想做一个

2017-12-20 16:23:34 6773

原创迁移学习（Transfer Learning）

本博客是针对李宏毅教授在youtube上上传的Machine Learning课程视频的学习笔记。课程链接引入线性模型结构化SVM序列贴标签引入我们之前学习到的学习模型的输入与输出一直以来都是向量（vector），但是在实际问题中，我们的输入输出可能是别的结构。比如，我们可能会需要输入输出是序列（sequence）、列表（List）或者树（Tree）等等。例子：结构学习的统一框架训练1.找

2017-12-20 09:33:03 6067 3

原创结构化学习（Structured Learning）

本博客是针对李宏毅教授在youtube上上传的Machine Learning课程视频的学习笔记。课程链接引入线性模型结构化SVM序列贴标签引入我们之前学习到的学习模型的输入与输出一直以来都是向量（vector），但是在实际问题中，我们的输入输出可能是别的结构。比如，我们可能会需要输入输出是序列（sequence）、列表（List）或者树（Tree）等等。例子：结构学习的统一框架训练1.找

2017-12-19 10:57:19 14752

原创集成学习（Ensemble Learning）

本博客是针对周志华教授所著《机器学习》的“第8章集成学习”部分内容的学习笔记。个体与集成BoostingBagging与随机森林Bagging随机森林结合策略平均法投票法学习法个体与集成集成学习，顾名思义，通过将多个单个学习器集成/组合在一起，使它们共同完成学习任务，有时也被称为“多分类器系统（multi-classifier system）”、基于委员会的学习（Committee

2017-12-09 15:27:22 38032 5

原创深度自解码器（Deep Auto-encoder）

本博客是针对李宏毅教授在youtube上发布的课程视频的学习笔记。视频地址：ML Lecture 16: Unsupervised Learning - Auto-encoderAuto-encoderEncoder and DecoderStarting from PCAApplication Text RetrievalVector Space Model and Bag-of-Word

2017-12-09 15:23:07 4520

原创朴素贝叶斯分类器（Naive Bayesian Classifier）

本博客是基于对周志华教授所著的《机器学习》的“第7章贝叶斯分类器”部分内容的学习笔记。朴素贝叶斯分类器，顾名思义，是一种分类算法，且借助了贝叶斯定理。另外，它是一种生成模型（generative model），采用直接对联合概率P(x,c)建模，以获得目标概率值的方法。预备知识先验概率与后验概率贝叶斯定理Bayesian Theorem朴素贝叶斯分类器何为朴素属性条件独立性假设分类准则

2017-12-07 11:20:21 57081 38

原创 Python3正则表达式(Python3 Regular Expression)

引子语法字符预定义字符集数量词边界匹配逻辑分组注意事项正则表达式前的r是什么Python3正则工具正则表达式是一种通用的工具，并不只属于Python语言，基本大部分语言都封装好了这个工具。引子正则表达式（Regular Expression）是一种用于做字符串匹配的工具，它能够非常方便地从一段文本中找到/匹配出符合一定要求/规律的目标字符串。但是我们什么情况下要做字符串匹配呢？而且

2017-12-05 23:04:38 687

原创 Docker：替代传统虚拟机的“鲸鱼”（Docker: A 'Whale' Replacing Traditional VM）

概念Docker架构概念Docker 是一个开源的应用容器引擎，基于 Go 语言并遵从Apache2.0协议开源。Docker 可以让开发者打包他们的应用以及依赖包到一个轻量级、可移植的容器中，然后发布到任何流行的 Linux 机器上，也可以实现虚拟化。容器是完全使用沙箱机制，相互之间不会有任何接口（类似 iPhone 的 app）,更重要的是容器性能开销极低。Docker的应用场景Web 应

2017-12-04 21:46:04 1764

原创卷积神经网络（Convolutional Neural Network）

本博客是针对李宏毅教授在youtube上上传的机器学习系列课程视频的学习笔记。（视频地址）卷积神经网络（Convolutional Neural Network，简称CNN），在图像处理方面的效果一直非常突出。今天我们就来看一下CNN的原理，并探究一下其效果如此好的原因。为什么用CNN来识别图像（Why CNN for Image）Motivation to use CNN: previous fu

2017-12-04 16:35:55 3639

原创支持向量机（Support Vector Machine）

前言最优化目标Optimization Objective最大化边界的直觉Large Margin Intuition最大化边界分类的数学原理Mathematics Behind Large Margin Classification核Kernel前言相比logistic regression和neural network，SVM作为一种可以学习到复杂非线性模型的学习算法，也是效果非常强大的

2017-12-03 20:51:49 529

MapleStory的博客