cracker_xu的专栏

李宏毅的机器学课程是最好的中文课程，目前已学了3-4课，今天记录一下第一课的一些知识点，主要是几个英文概念、术语翻译：）1、Regression：回归2、Linear Model：线性模型3、Non-linear Model：非线性模型4、Classification：分类5、Supervised Learning：监督学习6、Semi-supervised Learnin...

行列式可以看作其代表的矩阵引起的空间变换带来的面积、体积（三维）的倍数，比如基帽i，和基帽j相应变换成(a,b),(c,d)所形成的新的四变形的面积(原来的i*j是1）。比如：特殊情况，i变成(a,0),j变成(0,d），新的四边形还是矩形，拉升a倍和d倍，面积是原来的a*d倍，其他的情况也类似，只是计算起来稍微复杂一些，代表的都是面积的变化。...

Bias是样本偏差，样本本身带来的误差，用样本建立的函数期望值与真实函数之间的误差，表示欠拟合，模型太简单就会导致bias过大；Varince是方差误差，是函数不稳定带来的误差，方差过大，模型太复杂就会导致方差过大，也就是对样本可能拟合的很好，但对预测集拟合很差。Bias是欠拟合，Variance是过拟合。...

添加以下代码即可：#用来正常显示中文字符plt.rcParams['font.sans-serif']=['SimHei']#用来正常显示负号plt.rcParams['axes.unicode_minus']=False

在目前的实践中，线性回归的代价函数应方差函数，逻辑回归用最大似然函数，为什么这么选择？背后都有复杂的统计学原理和推导，而且两者都是凸函数，适合求导来用梯度下降法求最优解，所以初学只要知道用什么代价函数即可，清楚一些概念就可以，没有必然一定要了解背后的统计学推导过程。另外，逻辑回归中多了一个sidmoid函数，是为了让输出的值是在0-1的概率，所以用了这个处理方式。然后用这个概率的对数来反应损失...