统计学习方法
文章平均质量分 89
LittleFish0820
江南可采莲,莲叶何田田,鱼戏莲叶间。
展开
-
《统计学习方法》学习笔记 第十七章 LSA(latent semantic analysis)
目录1 单词向量空间与话题向量空间1.1 word vector space1.2 topic vector space2 潜在语义分析算法——矩阵奇异值分解算法3 非负矩阵分解算法总结1 单词向量空间与话题向量空间1.1 word vector space含有n个文本的集合D={d1,d2,⋯ ,dn}D=\{d_1,d_2,\cdots,d_n\}D={d1,d2,⋯,dn}在文本中出现的m个单词的集合W={w1,w2,⋯ ,wm}W=\{w_1,w_2,\cdots,w_m\}W={w1原创 2021-01-17 21:00:15 · 175 阅读 · 0 评论 -
《统计学习方法》学习笔记 第十六章 PCA(principal component analysis)
目录1 总体主成分分析1.1 基本想法1.2 定义和导出1.3 主要性质1.4 主成分的个数1.5 规范化变量的总体主成分2 样本主成分分析2.1 样本主成分2.2 相关矩阵的特征值分解方法2.3 数据矩阵的奇异值分解算法总结1 总体主成分分析1.1 基本想法(以前学过,很好理解,不放了)1.2 定义和导出x=(x1,x2,⋯ ,xm)T\bm{x}=(x_1,x_2,\cdots,x_m)^Tx=(x1,x2,⋯,xm)Tμ=E(x)=(μ1,μ2,⋯ ,μm)\bm\mu=E(\bm原创 2021-01-15 16:01:54 · 396 阅读 · 0 评论 -
《统计学习方法》学习笔记 第十五章 SVD(singular value decomposition)
目录1 奇异值分解的定义与性质1.1 定义与定理1.2 紧奇异值分解与截断奇异值分解1 compact singular value decomposition2 truncated singular value decomposition1.3 几何解释1.4 主要性质2 奇异值分解的计算3 奇异值分解与矩阵近似3.1 Frobenius norm3.2 矩阵的最优近似3.3 矩阵的外积展开式总结1 奇异值分解的定义与性质1.1 定义与定理定义(singular value decompositio原创 2021-01-13 13:20:19 · 528 阅读 · 0 评论 -
《统计学习方法》学习笔记 第十四章 聚类方法
目录1 聚类的基本概念1.1 相似度或距离1.2 类(class)或簇(cluster)1.2.1 类或簇的定义1.2.2 类的特征1.3 类与类之间的距离(linkage)2 Hierarchical clustering3 k-means clustering3.1 模型3.2 策略3.3 算法3.4 算法特性总结前情提要:见第十三章 无监督学习概论1 聚类的基本概念1.1 相似度或距离假设有n个样本,每个样本由m个属性的特征向量组成,X=[xij]m×n[x11x12⋯x1nx21x22⋯x原创 2021-01-12 11:14:06 · 933 阅读 · 0 评论 -
《统计学习方法》学习笔记 第二十一章 PageRank算法
目录1 PageRank的定义1.1 基本想法1.2 有向图和随机游走模型1 有向图(directed graph)2 随机游走模型3 PageRank的基本定义4 PageRank的一般定义2 PageRank的计算2.1 迭代算法2.2 幂法(power method)2.3 代数算法PageRank算法是图的链接分析(link analysis)的代表性算法,属于图数据上的无监督学习方法。PageRank算法最初作为互联网网页重要度的计算方法,1996年由Page和Brin提出,并用于谷歌搜索引擎原创 2021-01-12 11:15:22 · 352 阅读 · 0 评论 -
《统计学习方法》学习笔记 第十三章 无监督学习概论
第十三章 无监督学习概论目录13.1 无监督学习基本原理13.2 基本问题13.3 无监督学习三要素13.4 无监督学习方法目录13.1 无监督学习基本原理无监督学习是从无标注的数据中学习数据的统计规律或者说内在结构的机器学习,主要包括聚类、降维、概率估计。无监督学习可以用于数据分析或者监督学习的前处理。无标注数据 U={x1,x2,...,xN}U=\{x_1,x_2,...,x_N\}U={x1,x2,...,xN}模型①函数 z=gθ(x)z=g_\theta(x)z=gθ原创 2021-01-10 17:43:32 · 379 阅读 · 0 评论