weixin_43657889的博客

原创 主成分分析（PCA）

PCA可以简化数据，减少维度，提高计算效率。在上面的实践中PCA把样本特征维度为10的数据集降维到2，大大简化了后面的SVM相关的计算。在保留主要信息的同时，减少数据冗余，让降维后的数据仍然能正确的分类。但不足的是PCA是一种线性方法，不能处理非线性数据。特征向量的选择可能会导致信息丢失。对数据的缩放和中心化要求较高。

原创 支持向量机

超平面 (Hyperplane)：在n维空间中，一个n-1维的平面称为超平面。例如，在二维空间中，超平面是一条直线；在三维空间中，超平面是一个平面。支持向量 (Support Vectors)：在样本中离超平面最近的点。这些点对确定最佳超平面有重要影响。间隔 (Margin)：支持向量与超平面之间的距离。SVM的目标是最大化这个间隔，以提高模型的泛化能力。通过这篇博客，我们了解了支持向量机的基本原理，并使用Python实现了一个简单的SVM分类器。

原创 逻辑回归（Logistic Regression）理论和实践

在机器学习领域，逻辑回归是一种简单而强大的分类算法。尽管其名字带有“回归”，但逻辑回归常用于解决二分类问题。逻辑回归逻辑回归是一种广泛应用于统计学和机器学习领域的模型，用于解决分类问题。其基本思想是通过线性函数和一个逻辑函数（也称为sigmoid函数）的组合，来对数据进行分类。逻辑回归作为一种简单而有效的分类算法，在机器学习领域有着广泛的应用。通过本文的介绍，相信你已经对逻辑回归有了更深入的理解。在实际应用中，逻辑回归可以作为一个强大的工具，帮助我们解决各种分类问题。%20b。

原创 朴素贝叶斯分类器

朴素贝叶斯分类器基于以下的贝叶斯定理：是给定特征​ 下类别 y 的概率。是类别 y 的先验概率。是在类别 y 下特征的条件概率。是特征​ 的先验概率。由于对于所有的特征 𝑥在给定类别 y 的条件下是常数，因此朴素贝叶斯分类器可以简化为：∝⋅⋅⋅...⋅。

原创 深入理解决策树：从原理到实践

决策树作为一种简单而有效的机器学习算法，在实际应用中发挥着重要作用。通过深入理解决策树的原理和算法，我们可以更好地利用它来解决实际问题，并且不断改进和优化模型。p_%7Bi%7D。

原创 分类模型评估指标及ROC曲线和PR曲线

分类模型评估指标及ROC曲线和PR曲线在机器学习和数据挖掘领域具有重要地位，它们有助于我们全面评估分类模型的性能。分类模型评估指标主要包括错误率、准确率、查准率、查全率、混淆矩阵、F1值等。错误率是指分类错误的样本数占总样本数的比例，而准确率则是分类正确的样本数占样本总数的比例。查准率（Precision）又称精确率，是预测为正例的样本中真正为正例的比率；查全率（Recall）又称召回率，是预测为正例的真实正例占所有真实正例的比例。除了上述基本指标外，ROC曲线和PR曲线也是评估分类模型性能的重要工具。

原创 anaconda截图+pycharm截图（作业）

原创 K最临近算法(KNN)

在机器学习中，KNN是很简单、很常用的分类算法。当我们已经一些分类好的数据时，如果这时新增了一个没有分类的数据该怎么办呢？我们可以使用knn为这个数据分类，所谓knn就是K个最临近邻居（k-nearest neighbor）。也就是说我们通过判断这个数据与其他数据的距离来给他分类。数据标签A1B1C0D1E0数据距离A10B24C45D34E25我们可以通过距离给原有的数据按升序排序：A、B、E、D、C。

原创 Mitigate Domain Shift by Primary-Auxiliary Objectives Association for Generalizing Person ReID

为了减轻辅助任务标签的噪声，作者进一步推导出参考梯度策略，在主要任务 梯度与辅助任务梯度冲突时，改变辅助任务梯度。虽然辅助任务可以引导主要任务更加关注行人对象，但是由于弱标签的固有噪音，会影响共享的特征提取器，分散它的注意。2.在辅助任务和主要任务梯度冲突时，校准辅助任务的梯度，消除由于显著性标签不准 确的干扰。当主要目标梯度和辅助目标梯度冲突时，通过以主要目标的梯度为参考将辅助目标的梯度校 准。