machine learning
文章平均质量分 66
idid1
日本某大学CS专业研究生. 兴趣方向为机器学习 编译器理论机器人工程学 参加过一些国际国内会议 但依然不喜欢出行. 目前使用D语言.
展开
-
单层感知机
简单的写了个单层感知机 没什么技术含量, 并且这玩意实际意义不大 线性分类器我更喜欢svm, 可以用的trick多一些 结果: 代码如下: class TNode{ gsl_matrix* w; gsl_vector* b; int inputDim = 0,outputDim = 0; this(int m, int n){ w = gsl_m原创 2013-03-27 13:19:06 · 989 阅读 · 0 评论 -
#01 Linear Regression Excise
最近一直在看deep learning相关的论文. 虽然从06年到12年的重要论文都扫了一遍, 真的自己干起来还真不知道怎么入手. 总之先从基本开始吧.顺带整理成博客. 另外除了06年开山的两篇论文, 02年还有一篇"自然语言的概率模型"这十分重要的论文, 在搞定了目前基本的deep learning方法后我会实现这些东西, 然后重复12年ng小组的工作. 不过... 想一口就原创 2013-04-12 16:19:30 · 656 阅读 · 0 评论 -
#02 Multi-Linear Regression
依然是联系, 只不过是多变量的 但这次有点不一样, 因为你不得不normalization 结果是这个样子的 1.92077e+11 0.05 109139 -6719.28 340310 1.92102e+11 0.1 108828 -6864.04 340200 1.92144e+11 0.15 108512 -7010.52 340089 1.92206e+11 0.2 1原创 2013-04-12 17:57:33 · 690 阅读 · 0 评论 -
#03 mnist loader
在下手开始正式的工作之前, 先要有数据, 这里用非常著名的手写识别库 http://yann.lecun.com/exdb/mnist/ 文件格式在官网上有详细说明, 非常简单, 因此不说太多废话, 迅速搞出来 当然, 作为一个用着mac却不喜欢gui的人, 输出bmp显然要用AA 一个例子: 下面是代码, 我不太希望程序太复杂, 可能的话最好是low and原创 2013-04-15 15:59:59 · 2132 阅读 · 0 评论 -
#04 auto-encoder
作为最古老的方法之一, auto-encoder也是最简单的一种网络. 对mnist试了下, 结果还可以(没有做任何预处理) auto-encoder相关的介绍和论文都很多, 我也没有心思一点一点的抄过来 简单来说就是不仅仅输出 feature \mathcal{F}, 在训练出feature之后还有一个decode的操作 用训练出来的矩阵变换回元数据, 这样把一个有监督问题转换成无监督问原创 2013-04-26 13:06:24 · 1074 阅读 · 0 评论