2015年08月_Orange先生

原创 UserCF和ItemCF终极对比

说是终极对比，明确告诉你，就是在炒作！本文内容主要是我看了项亮的《推荐系统实践》一书，之前对于UserCF和ItemCF也是用的模模糊糊，这次好好整理了一下，加上自己一些总结和心得。UserCF推荐和当前用户相似度高的N个用户产生过行为的物品给当前用户；这些物品是当前用户没有行为过而其他N个用户行为过的物品的前M个；余弦相似度改进：在分子中除了考虑两个用户共同行为的物品，还考虑到这个物品被多少个用户

2015-08-27 16:24:23 9663

原创我对说话人识别/声纹识别的研究综述

GMM-UBM系统框架GMM-UBM的核心思想是用混合高斯函数去拟合特征在高维空间的概率密度分布，在训练说话人模型的时候，由于注册时说话人的数据稀疏，通常利用一个通用背景模型(Universal Background Model，UBM)和少量的说话人数据，通过自适应算法(如最大后验概率MAP，最大似然线性回归MLLR等)得到目标说话人模型；在测试时，用测试语音相对于目标说话人模型和UBM模型

2015-08-25 10:50:55 30410 9

原创机器学习算法需要注意的一些问题（二）

训练样本大小选取的问题模型学习的准确度与数据样本大小有关，那么如何展示更多的样本与更好的准确度之间的关系呢？我们可以通过不断增加训练数据，直到模型准确度趋于稳定。这个过程能够很好让你了解，你的系统对样本大小及相应调整有多敏感。所以，训练样本首先不能太少，太少的数据不能代表数据的整体分布情况，而且容易过拟合。数据当然也不是越多越好，数据多到一定程度效果就不明显了。不过，这里假设数据是均匀分布增加的。然

2015-08-12 14:23:25 4683

原创机器学习中梯度下降法和牛顿法的比较

在机器学习的优化问题中，梯度下降法和牛顿法是常用的两种凸函数求极值的方法，他们都是为了求得目标函数的近似解。在逻辑斯蒂回归模型的参数求解中，一般用改良的梯度下降法，也可以用牛顿法。由于两种方法有些相似，我特地拿来简单地对比一下。下面的内容需要读者之前熟悉两种算法。梯度下降法梯度下降法用来求解目标函数的极值。这个极值是给定模型给定数据之后在参数空间中搜索找到的。迭代过程为：可以看出，梯度下降法更新参数

2015-08-10 19:25:05 20805 1

原创机器学习中关于判断函数凸或凹以及最优化的问题

在很多机器学习算法中，都会遇到最优化问题。因为我们机器学习算法，就是要在模型空间中找到这样一个模型，使得这个模型在一定范围内具有最优的性能表现。因此，机器学习离不开最优化。然而，对于很多问题，我们并不总能够找到这个最优，很多时候我们都是尽力去找到近似最优，这就是解析解和近似解的范畴。很多最优化问题都是在目标函数是凸函数或者凹函数的基础上进行的。原因很简单，凸函数的局部极小值就是其全局最小值，凹函数的

2015-08-10 16:26:50 31029 3

原创从集成学习到模型的偏差和方差的理解

模型的偏差和方差的权衡和讨论其实是贯穿在整个机器学习理论当中的。机器学习的每一个算法或者模型都有对这两方面的判断和取舍。今天在看scikit-learn文档关于集成学习的论述中又提到偏差和方差，所以我想谈一谈我对这两个概念的理解。集成学习集成学习是一种组合类型的学习方法。它采用多个基分类器组合成一个总分类器，能够达到单个基分类器所达不到的效果。根据将多个基分类器集成在一起的方式，集成学习主要分为两类

2015-08-06 15:01:53 8317 1

原创声纹识别之PLDA算法描述

之前我写过《我对说话人识别/声纹识别的研究综述》，本篇基本上可以是这个综述的续写。其实，写的也没有什么深度，想获得深度信息的朋友们可以不用往下看了，还不如下载几篇领域内的国内博士论文看看。为什么是国内呢？因为国内博士论文前面的综述写的还不错，嘿嘿~我写这个主要是给不熟悉这个领域内的朋友看的，用通熟的话描述这个领域内重要的一些算法，等于是入个门吧。PLDA算法前面博客已经提到过声纹识别的信道补偿算法，

2015-08-05 09:59:41 29829

njustzj001的专栏