ziyue246的博客

pip install sklearn jieba numpy scipy pandas gensim matplotlib pyplot pylab libsvm

SVM 最大几何间隔，而且目标函数本身带有L2正则；公式：目标函数带有松弛因子的目标函数参考：统计学习方法——李航

CRF(conditional random field algorithm)求解用到的知识点是 viterbi+ lr( logistics regression)1、基本公式和是特征函数，转移特征函数，状态特征函数，和是对应的权值，是规范因子，求和是在所有可能的输出序列上进行的。2、化简设有个转移特征，个状态特征，3、简化版...

朴素贝叶斯法的基本假设是条件独立性：朴素贝叶斯分类：参考：统计学习方法-李航

1、Schmidt正交QR分解： 步骤：1、写出矩阵的列向量；2、schmidt正交化；3、得到QR分解结果； Schmidt正交化公式： 例子：1：，列向量正交得,,构造矩阵，标准化的Q =[]标准化的,R = 对角标准化参数*计算参数,A= Q*R参考，矩阵QR分解的三种方法 李建东...

参数估计分类两类：1、点估计；2、区间估计；1、点估计定义：利用样本值估计参数值或者函数分布形式。1.1 无偏估计（无偏性）如果 则称之为 是的无偏估计量；如果，则称为估计量 的偏差；如果，则称之为 是的渐进无偏估计量；1.2 均方误差（有效性）用途：用于评价多个无偏估计量的优劣。1.3 相合估计（相合性）定义：在无偏性，有效性的基础上，当样本量n无限增大时...

把流形引入到机器学习领域来主要有两种用途：1、将原来在欧氏空间中适用的算法加以改造，使得它工作在流形上，直接或间接地对流形的结构和性质加以利用；2、直接分析流形的结构，并试图将其映射到一个欧氏空间中，再在得到的结果上运用以前适用于欧氏空间的算法来进行学习。...

FN：False Negative，判负，实正。FP：False Positive，判正，实负。TN：True Negative，判负，实负。TP：True Positive，判正，实正。精度 precision(P) = TP/(TP+FP)  ， 判正实正/判正召回率 recall(R) = TP/(TP+FN)  ，判正实正/实正  F1值：2/F1 = 1/R+ 1...

公式：解法：同理：剩下使用矩阵的特征分解即可求得。

1、简介 word2vec是一个简化的神经网络模型，只有输入层，映射层，输出层。2、架构 CBOW架构，以该词的上下文预测该词； Skip-Gram架构，以该词预测该词的上下文。    其中CBOW计算量相对于Skip-Gram较低一些，具体可见下文两种方式的目标函数。3、优化方式    Hierarchical Softmax (赫夫曼树+逻辑回归) ...

0、整体图解初始化参数θ　　（1）E-Step：根据当前参数θ计算每个样本属于zi的概率，这个概率就是Q(z)；　　（2）M-Step：根据当前得到的Q(z)，求出含有θ的似然函数的下界(jensen不等式)，并最大化，得到新一轮的参数θ；　　重复（1）和（2）直到收敛1、目标函数 2、取等号 ...