![](https://img-blog.csdnimg.cn/20201014180756919.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
国科大模式识别与机器学习
叶落叶子
这个作者很懒,什么都没留下…
展开
-
论文学习12-Conditional Random Fields: Probabilistic Models for Segmenting and Labeling Sequence Data(CRF
文章目录abstract1.introduction1.2 条件模型2.标签偏差问题3.CRF提出条件随机场CRFabstract我们提出了条件随机场,这是一个建立概率模型来分割和标记序列数据的框架。相对于隐马尔可夫模型和随机语法,条件随机场在这类任务中有几个优势,包括能够放松这些模型中做出的强独立性假设。条件随机域也避免了最大熵马尔可夫模型(MEMMs)和其他基于有向图模型的判别马尔可...原创 2020-01-28 17:34:51 · 2906 阅读 · 2 评论 -
HMM总结
文章目录4.HMM-->CRF4.1 HMM--是个序列4.1.1 推断问题(evaluate)4.1.2 viterbi decoding解码4.1.3 学习,参数估计4.1.4计算实例4.1.5 EM(baum-welch算法)的上溢出和下溢出概率图模型code4.HMM–>CRF4.1 HMM–是个序列x-观测到的条件独立给定ytyt−1和yt+1(所有的...原创 2020-01-27 19:17:47 · 343 阅读 · 0 评论 -
国科大prml--SVM
拉格朗日的原始问题是minw,bmaxλLmin_{w,b} max_{\lambda} Lminw,bmaxλL对偶问题是maxλminw,bLmax_{\lambda} min_{w,b}Lmaxλminw,bL原问题拉格朗日对偶问题分界面最终参数hard marginminw12∥w∥2min_w \frac{1}{2}\|w\|^2minw...原创 2020-01-10 20:25:50 · 255 阅读 · 0 评论 -
GMM
GMM一个类一个正态分布N(μk,Σk)N(\mu_k,\Sigma_k)N(μk,Σk)有监督无监督半监督目标函数L=logp(Xl,Yl∥θ)=Σi=1llogp(yi∥θ)p(xi∥yi,θ)=Σi=1llogαyiN(xi∥θyi)L=logp(X_l,Y_l\|\theta)=\Sigma_{i=1}^llogp(y_i\|\theta)p(x_i...原创 2020-01-10 15:26:07 · 263 阅读 · 0 评论 -
国科大prml-往年习题
文章目录1 模式识别过拟合欠拟合概率图-独立性哲学理论adaboost感知机贝叶斯判别贝叶斯判别-正态分布1 模式识别简述模式的概念和他的直观特性模式:是抽取自物体的信息集合,既包含空间部分,又包含时间部分。直观特性:可观察性,可区分性,相似性主要方法:监督学习:概念驱动,归纳假说无监督学习:数据驱动,演绎假说过拟合欠拟合某研究者在会议上使用SVM,在如下情况下...原创 2020-01-10 01:17:57 · 1593 阅读 · 2 评论 -
EM算法
通用EMEM通用EM目标函数:极大似然函数logP(X∣θ)=logΣzP(x,z∣θ)logP(X|\theta)=log\Sigma_zP(x,z|\theta)logP(X∣θ)=logΣzP(x,z∣θ)用于:不完整数据的对数似然函数不知Z的数据,只知道Z的后验分布P(z∣x,θold)P(z|x,\theta^{old})P(z∣x,θold)考虑其期望Q(θ,θol...原创 2020-01-09 21:44:06 · 184 阅读 · 0 评论 -
国科大prml15-目标检测
改进R-CNN缩放图片SPPNet允许不同大小输入,SPP(pooling)归一化到相同尺寸Fast RCNN1.SPP->Rol pooling;2.改进边框校准Smooth L1 loss;3.全连接加速Truncated SVDFaster RCNNRPN直接生成候选框(共享CNN),anchor boxMask R-CNN实例分割...原创 2020-01-09 20:21:22 · 247 阅读 · 0 评论 -
国科大prml15-BP
原创 2020-01-09 19:33:35 · 123 阅读 · 0 评论 -
国科大高级人工智能+prml4-CNN
CNN弥补之前的DNN的缺陷图大,DNN的参数太多基本思想—>得到了某种程度的位移、尺度、形变不变性局部感知野:局部连接(稀疏连接)-非全连接图:近的关联性强,远的弱减少了权值数目参数共享一个卷积核用在图的任何地方一个卷积核可以检测同一种特征利用了平移不变性不是逐层训练的优点到了某种程度的位移、尺度、形变不变性层间联系和空域信息的紧密...原创 2020-01-06 22:55:16 · 336 阅读 · 0 评论 -
国科大prml15-基于浅层模型的计算机视觉--以人脸识别为例
文章目录2. 特征设计与提取过程q2.1 局部特征--SIFT2.2局部特征HOG3. 特征汇聚或变换h3.1BoVW视觉词袋模型3.2PCA4.以人脸识别为例4.1 主动统计模型4.1.1ASM(active shape model)4.1.2 AAM主动表观模型4.2人脸特征提取和比对特征脸Fisherfaces方法--本质(Fisher线性判别分析)=PCA+FLD贝叶斯人脸识别LBP计...原创 2020-01-09 19:11:18 · 1691 阅读 · 0 评论 -
国科大prml14-独立于算法的机器学习(boosting/
文章目录1.哲学定理2. 重采样resampling2.1 bagging2.2 boosting2.3 adaboost2.3.2训练误差2.4 active learning3. 估计和比较分类器--交叉检验3.1 交叉验证5.adaboost在人脸检测上的应用5.1肤色模型5.2基于AdaBoost的快速人脸检测如何选择好的模型和评价模型?独立于算法的机器学习:如何结合多个分类器1...原创 2020-01-09 16:53:05 · 751 阅读 · 0 评论 -
国科大prml13-概率图(CRF,HMM)
文章目录1. 有向概率图模型(贝叶斯网络)1.1 概率分布1.2 表示1.3 条件独立性1.3.2 检验条件独立算法(贝叶斯球)2. 无向图模型(马尔科夫随机场)2.1 条件独立性2.2 概率分布2.3 表示无向图的条件独立性判断3.概率推断和学习3.1 推断3.1.1 变量消去法(动态规划)4.HMM-->CRF4.1 HMM--是个序列4.1.1 推断问题(evaluate)4.1.2 ...原创 2020-01-09 01:00:32 · 670 阅读 · 0 评论 -
国科大prml12-半监督学习
文章目录1.假设2. 自学习算法3.多视角学习3.1 协同训练(co-training)3.2 多视角学习4. 生成模型生成模型的例子4.2 GMM高斯混合模型4.2.1 EM算法用于GMM4.2.2减小风险的启发式4.3 聚类标签法(cluster-and-label)5. S3VMs=TSVM5.2 学习算法SVMlightSVM^{light}SVMlight5.3 分支定界6. 基于图的算...原创 2020-01-08 23:53:03 · 809 阅读 · 0 评论 -
国科大prml11-降维
文章目录1.维度、特征与维度灾难维度=特征维度灾难降维1 维度选择3.特征抽取3.1 预备知识3.2 线性模型3.2.1 多维缩放MDS3.2.2 线性降维的一般形式3.2.3 PCA主成分分析3.3 非线性模型3.3.1KPCA3.3.2流行学习(欧氏距离不能反映相似性)3.3.3 拉普拉斯特征映射(Laplacian Eigenmap)3.3.4 自编码器RBM-逐层训练3.3.5 word2...原创 2020-01-08 19:26:33 · 336 阅读 · 0 评论 -
国科大prml10-无监督学习
文章目录1.监督学习与无监督学习2. 聚类分析2.1簇的其他区别2.2类型2.2.1 基于中心的簇2.2.2 基于连续性的簇2.2.3 基于密度的簇2.2.4 基于概念的簇2.3 应用2.4 三要素3.距离函数3.1 距离函数的要求3.2标准化3.3其他相似、不相似函数4.评价指标4.1外部指标(有参考模型)4.2无参考模型(内部指标)5 聚类算法5.1k-均值聚类收敛性k如何确定?如何初始化K-...原创 2020-01-08 01:37:11 · 346 阅读 · 0 评论