WayToGo@2016.11.17

近期要看的：

一.机器学习算法相关

再仔细学学svd(其实约等于没学过好嘛)，资料还没找好，就先酱~【add@2016.12.01】

数学之美番外篇：平凡而又神奇的贝叶斯方法 【completed@2016.11.20】

机器学习知识点其中包含了很多算法，慢慢的当做对统计学习方法的回顾总结来看吧。

上面的机器学习知识点包括了：

偏最小二乘法回归（Partial Least Squares Regression）

典型关联分析（Canonical Correlation Analysis）

增强学习（Reinforcement Learning and Control）

因子分析（Factor Analysis）

线性判别分析（Linear Discriminant Analysis）（二）

线性判别分析（Linear Discriminant Analysis）（一）

ICA扩展描述

独立成分分析（Independent Component Analysis）

主成分分析（Principal components analysis）-最小平方误差解释

主成分分析（Principal components analysis）-最大方差解释

在线学习（Online Learning）

（EM算法）The EM Algorithm   【done】

混合高斯模型（Mixtures of Gaussians）和EM算法  【done】

K-means聚类算法  【done】

规则化和模型选择（Regularization and model selection） 【done】

支持向量机（五）SMO算法  【略】

支持向量机SVM（二） 【略】

支持向量机SVM（一） 【略】

对线性回归，logistic回归和一般回归的认识 【done】

生成模型与判别模型  【done@2016.12.01 恩没什么special的，不用再看了】

从最大似然到EM算法浅解 当时看统计学习方法，觉得理解了许多，但是不应用转眼间又忘了，这篇当做温习，顺便可能可以从另一个角度加深理解。【done@2016.11.20，理解：统计学习方法将EM更多是从最大化"期望"的角度来介绍的，我之前总有点分不清EM和最大熵模型，其实我个人感觉最大熵才是严格的以最大熵为基础推导得出的算法，而EM更多是在有因变量的条件下，将最大似然函数的极大化转化为其下界的极大化(这里有一个很厉害的不等式，我没有细看)，这个最大化的目标就是某个东西的期望，所以该算法被称为EM算法，我个人觉得学习的时候有一个清晰的因果路线会更好理解~btw，EM的迭代就在于，有两个位置变量时，固定一个优化另一个，然后再回过来优化另一个，这个过程迭代。】

使用sklearn进行集成学习——理论 ensemble这么常用的工具要学好

使用sklearn进行集成学习——实践 ensemble这么常用的工具要用好

二.基本算法

大白话解析模拟退火算法 【done@2016.11.29,其实本质上模拟退火算法就是试图缓和贪心法会陷入局部最优解的这个缺陷，但其实只是缓和，因为模拟退火在非当前最优的时候也会试图进行下一步，可能退出局部最优。算法思想其实就是在下一步优于(或同于)当前时，移动；否则，以一定的概率移动。这个概率的设定参考了金属冶炼退火的温度，故命名为模拟退火，"退" 指示温度是不断下降的。】

遗产算法入门  【add@2016.11.29，看完模拟退火感觉其实遗传算法可能在某种程度上与模拟退火有点共通性，都是随机搜索嘛，所以一起看看~】

   【done@2016.11.29，基本思想就是将目标编码成字符串，对字符串进行选择/交叉/变异等操作，不断地由原种群生成新种群，直到达到最优阈值或最高迭代次数。本质模拟进化论遗传变异的过程，因此得名~另外一个算法优化的方式精英主义：每次迭代的时候直接复制一个最优解。】

三.实践篇

继续刷leetcode吧 leetcode

将leetcode做过的题目按算法分类好，提交到github上，github/leetcode 【completing】

继续提升kaggle HousePrices算法，主要是熟悉数据挖掘的流程，掌握基本算法，kaggle_HousePrices ，另外该部分也整理到github上，见github/HousePrices，我的博客见kaggel入门比赛_HousePrices

看tornado的文档，英文版点击打开链接，部分内容的中文版点击打开链接 【add@2016.11.27】

看python并发编程使用 Python 进行并发编程【add@2016.11.30】 【done@11.30，看完了，写的一般吧，代码还有错误。。还是看我总结的思想和代码吧~python并发】

每周编写一个机器学习算法 【add@2016.12.07】

每周跑一个hadoop实例 【add@2016.12.07，思考了一下觉得自己本身有hadoop的基础，为什么要丢掉它呢~~】 

四.课程相关作业

英语科技写作：有关动词时态分析作业 before12.2【因为这个在看一篇review，Supervised Machine Learning: A Review of Classification Techniques】【update& completed@2016.11.27，btw老师不允许用review啦，因为要对论文实验部分进行分析，最后用了这篇Probabilistic Color-by-Numbers: Suggesting Pattern Colorizations Using Factor Graphs，实际上我也没注意看论文内容- -】