2020年10月_doubleslow;

12月 11月 10月 09月 08月 07月 06月 05月 04月 03月 02月 01月

原创偏差-方差分解（bias-variance decomposition）:在理论上解释算法的泛化性能

文章目录我们可以直接做实验，拿到一个具体的精度，以及训练过程的变化曲线，观察出模型的泛化性能。但是这样做，明显是很模糊主观的，而且也完全不知为何会表现出这样的泛化性能。本文所说的这个分解方法就是要在理论上去分析一下，到底泛化误差由什么组成，由哪些因素影响。我个人觉得这个理论分析法的贡献是非常非常大。...

2020-10-22 15:13:37 1676

原创总结：两个向量之间，常用的距离/相似性度量

文章目录欧式距离闵可夫斯基距离马氏距离卡方chi-squarefisher score余弦相似度互信息pearson相关系数Jaccard相关系数KL散度JS距离DTW距离相似度和距离度量在机器学习中非常重要。因此这里做一点总结。欧式距离最简单的，从小都会，是高维空间中两个点的直线距离（以二维空间为例就很好理解）。闵可夫斯基距离曼哈顿距离就是模的和，比如在二维空间，就是两点的差的绝对值之和。马氏距离这里开始复杂一点了，扯到了概率分布，即开始不再只是简单考虑这两个向量本身，而是把他们都

2020-10-19 21:30:07 13320

原创两种归一化的对比（标准化 VS 缩放），都会改变数据分布！

标准化即把一个向量的均值和标准差算出来，然后每一个分量都减去均值再除以标准差，得到的就是归一化之后的结果。归一化之后的数据有正有负，服从均值为0方差为1的标准正态分布。实验：归一化前后，数据分布不同在matlab中生成一组正态分布的随机数a = random('Normal', 3,3, [1, 100]);%均值为3，标准差为3,1行100列figure,plot(a,'b'),hold onb = (a - mean(a))/std(a,0,2);%std(a,0,2)对于行向量求标准

2020-10-10 17:07:20 7179 5