- 博客(6)
- 收藏
- 关注
RSS订阅
原创 随机梯度下降法相关
在大规模机器学习问题中，很多算法最终都归结为一个这样的优化问题： minimizeω∈Rpg(ω):=1n∑i=1nfi(ω).\text{minimize}_{\omega \in R^p} \quad g(\omega) := \frac{1}{n}\sum_{i=1}^{n} f_i(\omega). 其中pp维向量ω\omega是待优化的模型参数，fi(ω)=L(ω,xi,yi)f_
2016-05-28 21:42:18
2461
原创 TensorFlow学习笔记-1
TensorFlow是Google开发的第二代人工智能系统，于2015年11月宣布开源。故名思义，TensorFlow的要素为张量（Tensor）和流（Flow），他们分别是系统的数据结构和算法框架。TensorFlow的设计想法就是通过让N维向量在数据流图（Data Flow Graph）上的一个节点流到另一个节点的方式来完成计算。例如，我们现在要计算两个矩阵相乘。在TensorFlow的框架下，
2016-05-09 22:50:12
2478
原创 线性回归与正则化
线性回归与正则化线性回归总述追根溯源，回归(Regression)这一概念最早由英国生物统计学家高尔顿和他的学生皮尔逊在研究父母亲和子女的身高遗传特性时提出。他们的研究揭示了关于身高的一个有趣的遗传特性：若父母个子高，其子代身高高于平均值的概率很大，但一般不会比父母更高。即身高到一定程度后会往平均身高方向发生“回归”。这种效应被称为“趋中回归(Regression Toward the Mean)”
2016-05-05 13:10:12
8078
1
原创 线性回归
引子这一期我们讨论机器学习中的回归问题。认真看过上一期的同学应该记得，回归属于监督学习中的一类方法。简单来讲，回归就是通过数据学习数量关系，然后利用这个数量关系去做预测。作为人类，我们能轻而易举地学习并理解现实中的简单数量关系。隔壁老王的SUV每100公里耗油10升，出门往返200公里，老王就知道该给车加至少20升油。why？因为连他8岁的儿子都知道这就是个简单的正比例关系。然而数量关系并不都是那么
2016-05-05 13:06:33
3786
原创 何谓机器学习
和大数据一样，机器学习(Machine Learning, ML)是一个热门而又略有误导性的名词。字面上它不禁让人联想到一群机器人排排坐上自习的科幻场景，然而实际上它指的是让计算机具备像人一样的学习能力的高(qi)端(ji)技(yin)术(qiao)，进而从堆积如山的数据中寻找出有用的知识。听起来有些不可思议，真的有这种黑科技吗？计算机的正确打开方式难道不是喂给它一串命令，然后愉快地看它乖乖执行么？
2016-05-02 21:24:22
561
原创 关于布隆过滤器的本质
关于布隆过滤器的本质最早在吴军博士的《数学之美》上了解到布隆过滤器（Bloom Filter），它能以O(1)O(1)的时间代价完成集合元素的检索和插入，并以最小的空间代价保证了假正例（False Positive）概率不大于给定阈值。当时感觉得这东西是一个加强版的哈希表，后来算了一下发现确实如此：布隆过滤器的本质就是利用若干个哈希表的检索结果进行投票表决。我们先来看一个普通哈希表做集合元素检索的效
2016-05-02 20:54:44
907
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人