- 博客(34)
- 收藏
- 关注
RSS订阅原创 机器学习(三十五) 概率图模型-精确推断与近似推断
35.1 概率图模型的推断方法 :35.2 精确推断 : 变量消去法35.3 近似推断(一) : MCMC采样法 - 如何高效地基于图模型所描述的概率分布P(x)获取样本 - 通过构造马尔可夫链(递归算法)使其收敛到平稳分布P来产生样本，生成的样本x近似服从于分布P- MH算法
2026-04-21 10:40:54
773
原创 机器学习(三十四) 概率图模型-马尔可夫随机场与条件随机场
34.1 马尔可夫随机场 : 34.1.1 联合概率分布 : 基于团分解为势函数的乘积34.1.2 势函数的作用 : 度量变量x∈Q之间的相关性，且函数值越大说明对应的变量x取值的联合概率越高。34.2 条件随机场 : 对多个变量x在给定观测值后的条件概率 P(y|x) 进行建模。条件随机场和马尔可夫随机场均使用团上的势函数定义概率，但条件随机场处理的是条件概率，而马尔可夫随机场处理的是联合概率。
2026-04-20 17:47:22
668
原创 机器学习(三十三) 概率图模型与隐马尔可夫模型
33.1 概率模型：概率图模型33.2 隐马尔可夫模型：33.2.1 状态变量、观测变量、联合概率分布33.2.2 三组参数、模型的三个基本问题
2026-04-16 19:32:44
423
原创 机器学习(三十二) 半监督学习-基于分歧的方法与半监督聚类
32.1 基于分歧的方法：协同训练与多视图学习、协同训练算法的流程与解读32.2. 半监督聚类：约束k均值算法、约束种子k均值算法
2026-04-15 17:29:33
899
原创 机器学习(三十一) 半监督SVM与图半监督学习
31.1 半监督SVM : TSVM 及 TSVM算法解读31.2 图半监督学习方法 : 亲和矩阵、能量函数、推导图半监督标记传播算法，及 适用于多分类问题的标记传播算法
2026-04-12 22:57:15
696
原创 机器学习(三十) 半监督学习与生成式方法
30.1 半监督学习 概论30.2 生成式方法 : 以高斯混合概率模型为例，通过有标记数据与未标记数据所包含的数据分布信息获得潜在的模型参数，并将未标记数据的预测分类与学习目标(模型参数)联系起来。具体可参考30.2.2 基于有标记数据和未标记数据的高斯混合概率模型 EM 算法解读
2026-04-10 23:48:28
628
原创 机器学习(二十九) 稀疏表示与字典学习(LASSO算法、KSVD算法、奇异值分解)
29.1 特征选择的另一种稀疏性：样本的稀疏表示 -- 需要找到合适的字典矩阵：29.2 字典学习：29.2.1 字典学习的优化目标 -- 29.2.2 先固定字典矩阵B，采用LASSO解法并通过其闭式解求解样本的稀疏表示；-- 29.2.3 基于样本的稀疏表示，采用KSVD解法逐列更新字典矩阵：29.2.4 通过奇异值分解(SVD)求解字典矩阵B的每一列，最终可求得字典矩阵B和每个样本xi的稀疏表示αi。
2026-04-07 11:04:08
553
原创 机器学习(二十八) 特征选择与常见的特征选择方法
28.1 特征选择概述 (特征子集搜索、特征子集评估)28.2 过滤式特征选择方法28.3 包裹式特征选择方法28.4 嵌入式特征选择方法 (L1正则化与稀疏解、L1正则化问题的求解)
2026-03-31 23:05:27
429
1
原创 机器学习(二十七) 降维：度量学习与随机梯度下降法求解
27.1 什么是度量学习 - 为寻找合适的低维空间寻找合适的距离度量；27.1.1 马氏距离 - 度量矩阵M是度量学习的目标；如何寻找合适的度量矩阵M ？27.1.2 近邻成分分析(NCA)算法 - 求解优化目标寻找合适的度量矩阵M27.2 通过Python编程实现使用随机梯度下降法求解 NCA 的优化目标 -- 近邻分类器(概率投票法) LOO(留一法)正确率最大化 的距离度量矩阵M
2026-03-28 23:57:53
258
原创 机器学习(二十六) 降维：流形学习
26.1 降维 - 流形学习简述，介绍两种著名的流形学习方法：26.2 等度量映射 - lsomap算法 (在近邻连接图上采用Dijkstra算法计算任意两个样本点之间最短路径，并与MDS算法结合，得到样本集在低维空间的投影矩阵)，并附录了Dijkstra具体算法描述；26.3 局部线性嵌入 - LLE算法描述
2026-03-25 23:44:49
419
2
原创 机器学习(二十五) 降维：主成分分析(PCA)及特征值分解
主成分分析(PCA)核心逻辑的直观理解25.1 主成分分析(PCA)优化目标的推导25.2 主成分分析(PCA)的求解与算法25.3 通过一个具体的二维数据实例，直观演示PCA中协方差矩阵特征值分解及逐一选取方差最大方向构成主成分矩阵的过程。
2026-03-23 08:29:14
896
原创 机器学习(二十四) 降维 : MDS降维方法与线性降维方法
24.1 k近邻学习 - "维数危机"24.2 降维24.3 MDS降维方法与算法解读24.4 引子：线性降维方法
2026-03-18 23:51:12
574
原创 机器学习(二十三) 密度聚类与层次聚类
23.1 密度聚类 : DBSCAN算法 及 算法解读23.2 层次聚类 : AGNES算法 及 算法解读
2026-03-18 08:02:25
658
原创 机器学习(二十二) 原型聚类：k均值算法、学习向量量化、高斯混合聚类
22.1 聚类概述 (聚类性能度量、样本距离计算)22.2 原型聚类 (k均值算法、学习向量量化、高斯混合聚类)
2026-03-16 00:30:43
819
原创 机器学习(二十一) 集成学习-结合策略与多样性
21.1 结合策略 (hi(x)平均法、类概率投票法、学习法 : Stacking算法)21.2 多样性 (误差-分歧分解理论、多样性度量、多样性增强)
2026-03-12 00:23:39
684
原创 机器学习(二十) 集成学习-Boosting与Bagging集成方法
20.1 集成学习概论20.2 Boosting 集成学习方法 (AdaBoost算法流程与推导、重采样法)20.3 Bagging 集成学习方法 (实现Bagging集成方法的基本流程、随机森林)
2026-03-09 17:45:09
879
原创 机器学习(十六) 贝叶斯决策论与极大似然估计、EM算法
16.1 贝叶斯决策论 16.2 极大似然估计 16.2.1 极大似然估计实例解析16.3 EM算法 16.3.1 EM算法实例解析
2026-03-04 18:56:32
788
原创 机器学习(十四) 支持向量机-软间隔与正则化
14.1 软间隔与优化目标14.2 替代损失函数与松弛变量对软间隔优化目标的重新定义14.3 使用其它替代损失函数14.4 对软间隔优化目标模式的解读：结构风险与经验风险
2026-02-28 00:13:46
804
原创 机器学习(十三) 支持向量机-基本型与拉格朗日乘子法求解
13.1 支持向量机基本型13.2 拉格朗日乘子法求解 (对偶问题与KKT条件，SMO算法)
2026-02-24 22:34:36
876
原创 机器学习(十二) 神经网络-深度学习
12.1 全局最小与局部最小 12.2 几种常见的神经网络12.3 深度学习 (预训练+微调、权共享-卷积神经网络)
2026-02-20 22:36:51
965
原创 机器学习(十一) 神经网络-误差反向传播算法
11.1 基本概念 11.2 误差反向传播算法 (11.2.1 多层前馈神经网络BP算法结构图 11.2.2 梯度下降法 11.2.3 BP算法过程 11.2.4 累积BP算法 11.2.5 如何缓解BP算法过拟合)
2026-02-17 23:07:43
1755
原创 机器学习(十)Python编程-基于信息增益准则生成决策树
本文介绍了基于信息增益准则生成决策树如何通过Python编程实现。主要内容包括：1）数据预处理与常量设置；2）核心算法实现，包含信息熵、信息增益的计算等关键方法；3）生成决策树递归过程的展示。文章详细注释了每个步骤，通过控制台输出清晰呈现递归过程和属性划分过程。程序中特别处理了熵值为0（叶节点）和1（预剪枝）的特殊情况。文末提供了完整代码，可作为决策树实现的参考范例，适合机器学习初学者学习决策树算法与编程实践。
2026-02-16 11:17:30
322
原创 机器学习(八) 决策树-划分选择与剪枝处理
8.1 信息增益 (定义与实例) 8.2 增益率 8.3 基尼指数 8.4 剪枝处理(预剪枝与后剪枝)
2026-02-14 17:00:32
854
原创 机器学习(七) 多分类学习与类别不平衡问题
7.1 多分类学习 7.1.1 OvO 与 OvR 7.1.2 MvM : ECOC7.2 处理类别不平衡问题的基本方法
2026-02-11 17:18:12
693
原创 机器学习(六) 线性判别分析(LDA)与奇异值分解
6.1 线性判别分析 6.1.1 什么是协方差矩阵？6.1.2 LDA核心目标 6.1.3 如何求解投影方向w？6.2 奇异值分解 6.2.1 什么是正定矩阵？6.2.2 A=UΣVᵀ 解析
2026-02-09 22:30:02
778
原创 机器学习(五) 对数几率回归与极大似然法求解
5.1 对数几率回归5.2 通过"极大似然法"(maximum likelihood method)求解w和b
2026-02-06 21:13:01
291
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人