- 博客(27)
- 收藏
- 关注
RSS订阅转载 EM Algorithm
Expectation Maximization Algorithm EM算法和之前学的都不太一样，EM算法更多的是一种思想，所以后面用几个例子讲解，同时也会重点讲解GMM高斯混合模型。 ①极大似然估计 极大似然估计这里面用的比较多。假设我们想要知道我们学生身高的分布，首先先...
2019-02-12 12:59:00
175
转载 Some methods of deep learning and dimensionality reduction
Deep Learning 上一篇主要是讲了全连接神经网络，这里主要讲的就是深度学习网络的一些设计以及一些权值的设置。神经网络可以根据模型的层数，模型的复杂度和神经元的多少大致可以分成两类：Shallow Neural Network和Deep Neural Network。比较一下...
2019-02-12 12:59:00
92
转载 Data Structure_Visualization
所以代码附上GitHub:https://github.com/GreenArrow2017/DataStructure_Java/tree/master/out/production/DataStructure_Java/ApplicationOfAlgorithm ...
2019-02-12 12:59:00
453
转载 基于SVM的思想做CIFAR-10图像分类
SVM 回顾一下之前的SVM，找到一个间隔最大的函数，使得正负样本离该函数是最远的，是否最远不是看哪个点离函数最远，而是找到一个离函数最近的点看他是不是和该分割函数离的最近的。 使用large margin来re...
2019-02-12 12:59:00
637
转载 Data Structure_Sort Algorithm
排序算法 Tool implement //generate a array of n elements, range [rangL, rangeR] int *generateRandomArray(int n, int rangL, int rangeR) {...
2019-02-12 12:59:00
72
转载 Hidden Markov Model
HMM隐马尔科夫模型 ①通俗的理解 首先举一个例子，扔骰子，有三种骰子，第一个是比较常见的6个面，每一个面的概率都是1/6。第二个只有4个面，，每一个面的概率是1/4。第三个有8个面，，每一个面的概率是1/8。 ...
2019-02-12 12:59:00
237
转载 Data Structure_JavaSwing
Java Swing的基础 首先需要注意的就是JFrame这个类，如果在main类整直接new一个出来是没有任何的变化，需要设置一个setvisible为true来显示出来。 public class AlgorFrame extends JFrame { private...
2019-02-12 12:59:00
84
转载 Data Structure_数组_栈_队列_链表_霍夫曼
数组 数组在编码中很常见，就是把数据码成一排存放。 这就表示一个数组，这个数组有八个元素存放。对于元素的获取，主要就是通过下标获取，所以索引对于数组是很重要的，这个索引可以是有意义的，也可以是没有意义的...
2019-02-12 12:59:00
96
转载 Data Structure_堆_二叉树_并查集
堆 堆这种数据结构的应用很广泛，比较常用的就是优先队列。普通的队列就是先进先出，后进后出。优先队列就不太一样，出队顺序和入队顺序没有关系，只和这个队列的优先级相关，比如去医院看病，你来的早不一定是先看你，因为病情严重的病人可能需要优先接受治疗，这就和时间顺序没有必然联系。优先队列最频...
2019-02-12 12:59:00
72
转载 Finale
Feature Exploitation Techniques 这几篇博客介绍的第一个feature transform方法就是kernel。kernel先出现是在SVM里面，原因就是为了减少 內积计算的复杂度，把特征转换和內积计算结合到一起。特征转换其实也是一种特征的提取。介绍过的...
2019-02-12 12:59:00
90
转载 Radial Basis Function Network
RBF Network 前面的一篇SVM中，最后的分割函数： 使用高斯核函数方式把数据维度扩展到无限维度进而得到一条粗壮的分界线。 仔细看一下这个分割函数，其实就是一些Gaussian函数的线性组合，y就是增长的方...
2019-02-12 12:59:00
207
转载 Matrix Factorization
Matrix Factorization ①linearNetwork Hypothesis 机器学习的作用就是要从一堆数据中学习到学习到某种能力，然后用这种skill来预测未来的结果。比如一个电影推荐的例子，我们手上有很多的电影数据，现在就需要训练一个机器学习的模型来使得这个模...
2019-02-12 12:59:00
108
转载 Random Forest
Random Forest——随机森林 上一篇是讲到了决策树，这篇就来讲一下树的集合，随机森林。 ①Aggregation Model 随机森林还是没有脱离聚合模型这块，之前学过两个aggregation model，bagging和decision tree，一个是边lea...
2019-02-12 12:59:00
165
转载 Factorization Machine
Factorization Machine---因子分解机 ①target function的推导 logistics regression algorithm model中使用的是特征的线性组合，最终得到的分割平面属于线性模型，但是线性模型就只能处理线性问题，所以对于非线性的问...
2019-02-12 12:58:00
111
转载 Data Structure_二叉树_集合_堆_并查集_哈希表
前情提要——二叉树 二叉树之前已经提到过，二叉树这种数据结构只能有两个子数，一左一右。 叶子节点就是左右孩子都是空的，但是并不是每一颗树都像上图所示的那样这么规整，有些树树可以只有左孩子没有右孩子的。...
2019-02-12 12:58:00
80
转载 Neural Network
1.PLA 重新回顾一下一开始学的PLA，preceptron learning Algorithm。PLA适用于二维及高维的线性可分的情况，如果是非线性可分的数据，如果使用PLA可能会无限循环。问题的答案只有同意或不同意： ...
2019-02-12 12:58:00
89
转载 The Optimization of the Adaboost and Gradient Boosted Decision Tree
The Optimization of the Adaboost 1.对于Adaboost error function的推导 再回到我们上篇文章讲到的Adaboost算法，我们要从Adaboost算法推导出GBDT。首先回顾一下上篇文章的Adaboost，主要思想就是把弱分类器...
2019-02-12 12:58:00
70
转载 Chapter 6:Similarity-Based Methods
①Similarity Measure 相似度的衡量方法： Euclidean Distance（欧几里得距离）： Mahalanobi Distance（马氏距离）：，其中Q是一个半正定的协方差矩阵，是多维度数据之间的方差。马氏距离比高斯距离考虑的更全面，因为他把数据的维度和数据的...
2019-02-12 12:58:00
180
转载 Decision Tree
①Aggregation Model 回顾上一篇文章讲到的聚合模型，三个臭皮匠顶一个诸葛亮。于是出现了blending，bagging，boost，stacking。blending有uniform和non-uniform，stacking是属于条件类的，而boost里面的Adabo...
2019-02-12 12:58:00
89
转载 Data Structure_图
图论 无权图 交通运输，社交网络，互联网，工作的安排，闹区活动等等都可以用到图论处理。图可以分成两大类，一类是无向图，就是没有方向的，就好像两个人都互相认识一样，有向图就是单方面的联系，一个人认识另一个人，但是另一个人确不认识。当然，无向图也可以看成是一种特殊的有向图。图还可以根...
2019-02-12 12:58:00
78
转载 Data Structure_树
线段树Segment Tree 对于有一类问题，时常关注的是一个区间或者是一个线段，那么就可以使用线段树来解决。比较经典的问题，就是区间染色问题：有一面墙，长度为n，每次选择一段墙来染色，一开始4-6绘制成黄色，然后1-10绘制蓝色，2-7绘制红色，若干次绘色之后能看见多少种颜色，或...
2019-02-12 12:58:00
78
转载 linear regression and logistic regression
①linear regression target function的推导 线性回归是一种做拟合的算法： 通过工资和年龄预测额度，这样就可以做拟合来预测了。有两个特征，那么就要求有两个参数了，设置 ...
2019-02-12 12:58:00
154
转载 Optimization of Machine Learning
机器学习就是需要找到模型的鞍点，也就是最优点。因为模型很多时候并不是完全的凸函数，所以如果没有好的优化方法可能会跑不到极值点，或者是局部极值，甚至是偏离。所以选择一个良好的优化方法是至关重要的。首先是比较常规的优化方法：梯度下降。以下介绍的这些算法都不是用于当个算法，可以试用于能可微的所...
2019-02-12 12:58:00
111
转载 Unity基本操作以及Roll A Ball
窗口界面以及菜单 Scene 场景编辑窗口，用于对场景的设计以及物体的处理。 可以自由的漫游整个场景，拖动物体等等。 第一个手部图标，可...
2019-02-12 12:58:00
126
转载 Label Propagation
Label propagation是基于标传播的一种社区划分算法。Label Propagation Algorithm简称LPA算法，也可以是说是一种划分小团体的算法。这种社区划分的方法有很多，LPA只是一种最简单的一种。比如，以微博为例，用户在微博上可以关注感兴趣的人，同样也会被其他...
2019-02-12 12:58:00
154
转载 Softmax Classifier
Softmax Classifier softmax分类器和logistics regression有点像，softmax其实就是从logistics发张过来的。由于是多分类了，需要走更多的概率来表示每一个分类。softmax的公式： 问题来了，为什么不直接求？而是绕这么大的一圈最后...
2019-02-12 12:58:00
132
转载 Recommended System
推荐系统 推荐系统的核心问题就在于为用户推荐与其兴趣相似度比较高的商品。比如在微博上，用户至上想打发时间，并不是想准确的查看某条信息，在首页中查看每一条微博，为了帮助他筛选出一批他们可能感兴趣的信息，此时就需要分析出该用户的兴趣，从海量信息中选择出与用户兴趣相似的信息，并将这些信息推...
2019-02-12 12:58:00
213
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人