机器学习
文章平均质量分 74
csdnqixiaoxin
这个作者很懒,什么都没留下…
展开
-
回归树笔记
本文基于CMU课件:http://www.stat.cmu.edu/~cshalizi/350-2006/lecture-10.pdf1. 从线性回归到回归树拟合复杂的非线性数据时,线性回归不再可取。于是引出下面的思路:将特征空间分割成小的区域,使得小区域内的数据更可控一些;将小的区域再分成小的区域(递归的思想),直到在最终得到的小区域中可以用简单的模型(如线性回归)来拟合数据。回归树...原创 2018-11-04 11:45:38 · 243 阅读 · 0 评论 -
OpenAI Spinning Up安装问题
系统:Ubuntu 16.04 64-bit问题描述:按照教程安装相关的库,执行了sudo apt-get update && sudo apt-get install libopenmpi-dev之后,提示"Some index files failed to download. They have been ignored, or old ones u原创 2018-11-12 23:02:27 · 1602 阅读 · 1 评论 -
Sampled Softmax
阅读了TensorFlow官方文档Candidate Sampling Algorithms Reference,写一下自己关于Sampled Softmax的理解在多类别问题中,我们常常使用softmax输出各个类别的概率。当类别数量很大时,使用softmax计算量很大。例如,我们的问题是预测一句话中的一个词,那么类别数量就是vocabulary大小。为此,这篇论文提出了Sampled ...原创 2018-11-23 10:28:17 · 1018 阅读 · 0 评论 -
用梯度下降法求根号2的值
阿里实习面试的时候,面试官问了这个问题:如何用梯度下降法求根号2的值。我一开始是懵逼的,后来在面试官的指引下有了一些思路,最后面试官讲出了其中的原理。下面总结一下,是个挺有意思的问题。我们知道梯度下降法是用来求函数的极值的。假设一个函数f(x)f(x)f(x)可导,要求它的极值的话,应该是求解f′(x)=0f'(x)=0f′(x)=0。对于一般函数,这个方程不好解。所以我们...原创 2019-05-08 12:19:27 · 3334 阅读 · 0 评论 -
决策树的几点思考
最近温习了一下决策树,又加深了理解。下面总结一下我对于决策树的几点思考。我们知道三种经典的决策树算法:ID3、C4.5、CART,也知道它们的几点性质,比如,ID3仅能用于特征是离散值的情况,CART既可以用于分类也可以用于回归,等等。那么它们为什么会有这些性质?ID3为什么不能用于连续型特征,而CART可以?关键点在于“二元分裂”与“多元分裂”。ID3选择好特征之后,对于这个特征...原创 2019-05-06 15:30:33 · 251 阅读 · 0 评论