- 博客(21)
- 收藏
- 关注
RSS订阅原创 MATLAB智能优化算法-学习笔记（4）——灰狼优化算法求解旅行商问题【过程+代码】
多旅行商问题（Multi-Traveling Salesman Problem, MTSP）是旅行商问题（TSP）的扩展版本。TSP 是一个经典的组合优化问题，目的是找到一个最短的路径，使得一名旅行商从起点城市出发，访问所有的城市恰好一次，并回到起点城市。TSP 已经被证明是 NP 完全问题，其计算复杂度随城市数量的增加迅速上升。MTSP 扩展了 TSP，增加了多个旅行商。
2024-10-06 21:12:33
733
原创 MATLAB智能优化算法-学习笔记（3）——大规模邻域搜索算法求解旅行商问题【过程+代码】
*大规模邻域搜索（Large Neighborhood Search, LNS）**是一种用于解决组合优化问题的元启发式算法，尤其适用于像旅行商问题（TSP）这种复杂的NP难问题。LNS的核心思想是通过在解空间中进行大规模扰动，即“破坏”部分解的结构，随后通过优化手段“修复”解，以避免陷入局部最优解，从而寻找到全局较优解。
2024-09-21 21:51:15
845
原创 MATLAB智能优化算法-学习笔记（2）——变邻域搜索算法求解旅行商问题【过程+代码】
变邻域搜索（VNS）是一种强大的启发式算法，广泛应用于解决复杂的组合优化问题，如旅行商问题（TSP）。该算法通过系统性地切换不同类型的邻域操作，以跳出局部最优解，从而寻找全局最优解。在求解TSP时，VNS通常结合多种邻域结构，包括交换、逆转和插入操作。算法首先通过贪婪算法生成初始解，然后在不同邻域中进行扰动和优化，通过不断迭代和切换邻域来逐步改善解的质量。最终，VNS能够有效地收敛到较优的旅行路线，显著减少总行程距离。相比于传统单一邻域搜索，VNS在求解TSP中的表现更为出色，能够避免陷入局部最优，提升求
2024-08-31 11:28:48
791
原创 MATLAB智能优化算法-学习笔记（1）——遗传算法求解0-1背包问题【过程+代码】
遗传算法（Genetic Algorithm, GA）是一种基于自然选择和遗传机制的优化方法，广泛应用于求解复杂的优化问题。本文利用遗传算法求解0-1背包问题，探索其在求解组合优化问题中的有效性。0-1背包问题是一种经典的离散优化问题，其目标是选择一定数量的物品以最大化总价值，同时确保总质量不超过背包的容量限制。该问题在实际应用中涉及广泛，如资源分配、货物装载等领域。
2024-08-27 12:22:52
1641
原创 【机器学习算法基础】（基础机器学习课程）-11-k-means-笔记
K-Means 聚类算法通过迭代地分配数据点和更新簇中心，将数据集划分成 K 个簇。尽管有一些局限性，但由于其简单性和高效性，K-Means 广泛应用于各种聚类任务。
2024-08-04 16:26:12
564
原创 【机器学习算法基础】（基础机器学习课程）-10-逻辑回归-笔记
为什么保存模型？保存模型的主要目的是为了节省时间和计算资源。训练模型可能需要大量的数据和时间，而保存模型后可以在需要时直接加载和使用。保存模型的方法：常用的库包括pickle和joblib，joblib在处理大文件时效率更高。加载模型：加载模型非常简单，只需一行代码就可以将保存的模型加载回来，方便快速进行预测或分析。逻辑回归是一种用于分类问题的机器学习算法，尽管名字中有“回归”二字，但它实际上用于二分类或多分类任务。
2024-08-04 12:35:46
1244
原创 【机器学习算法基础】（基础机器学习课程）-07-朴素贝叶斯算法-笔记
朴素贝叶斯是一种基于贝叶斯定理的简单、高效的分类算法，尽管其独立假设在现实中不完全成立，但在许多应用中仍然表现良好。它适用于大规模数据集，对计算资源的需求低，是文本分类等领域的一种常用方法。精确率：模型预测为正类的样本中，实际为正类的比例。召回率：实际为正类的样本中，被模型正确预测为正类的比例。F1分数：精确率和召回率的调和平均数，用于平衡这两个指标。精确率和召回率是评估分类模型的重要指标，它们帮助我们了解模型在不同方面的表现，并在不同应用场景中做出相应的调整。
2024-07-27 12:20:48
997
原创 【机器学习算法基础】（基础机器学习课程）-08-决策树和随机森林-笔记
决策树通过选择能够最大化信息增益或最小化基尼指数的特征来进行数据的划分。最终，我们得到的树结构可以帮助我们做出分类或回归的决策。假设我们要根据天气情况（晴天、阴天、雨天）和温度（高、中、低）来决定是否去公园。熵：初始情况下，不知道天气和温度时，去公园和不去公园的比例是50/50，熵较高。条件熵：根据天气情况，发现晴天去公园的比例很高，雨天去公园的比例很低。信息增益：选择天气作为第一个划分特征，因为它能最大程度减少熵。增益率。
2024-07-23 11:56:39
862
原创 【机器学习算法基础】（基础机器学习课程）-09-线性回归-笔记
通过上述步骤，我们可以使用朴素贝叶斯算法对新闻进行分类。这个过程包括数据准备、特征提取、训练模型和分类预测。朴素贝叶斯算法简单高效，尤其适合处理文本分类任务。使用Python的库可以方便地实现该算法，并且可以通过准确率和分类报告来评估模型的性能。优点简单易懂：算法简单，易于实现。计算效率高：训练和预测速度快，适合大规模数据。处理缺失数据：对缺失数据不敏感。多类别预测：可以直接进行多类别分类。缺点特征独立假设：假设特征之间相互独立，这在实际应用中往往不成立。数据稀疏问题。
2024-07-03 21:56:37
1501
原创 【机器学习算法基础】（基础机器学习课程）-06-k-近邻算法-笔记
KNN算法是一个简单且有效的分类和回归方法，适合于小规模、低维数据集。它通过计算距离找到最相似的K个邻居，从而进行预测。尽管KNN算法有一些局限性，但通过合理的参数选择和数据预处理，可以在许多实际问题中获得较好的性能。
2024-06-27 22:41:15
608
原创 【机器学习算法基础】（基础机器学习课程）-05-机器学习概述-笔记
Iris数据集UCI机器学习库150个样本，4个特征多分类主要用于数据预处理。fit（计算数据的统计信息），transform（转换数据），（一次性完成计算和转换）。主要用于训练和评估机器学习模型。fit（训练模型），predict（预测数据），score（评估模型性能）。机器学习算法可以根据学习方式和任务类型进行分类，常见的有监督学习、无监督学习、半监督学习和强化学习等。开发流程包括定义问题、收集数据、选择模型、训练和评估模型、模型部署以及监控和维护等步骤。
2024-06-27 00:32:50
915
原创 【机器学习算法基础】（基础机器学习课程）-04-数据降维-笔记
特征选择是一种简化数据集的重要技术，通过挑选出最有价值的特征，提高模型的效率和效果，同时增强模型的可解释性。通过特征选择和降维，保留了用户购买行为中最重要的物品类别特征，简化了数据集，提高了模型的训练效率和预测准确性。最终，优化后的推荐系统可以更准确地预测用户会再次购买的商品类别，从而提升用户满意度和销售量。
2024-06-26 18:21:29
1196
原创 【机器学习算法基础】（基础机器学习课程）-03-数据特征预处理-笔记
处理方式归一化：将数据缩放到特定范围（通常是[0, 1]）。标准化：将数据调整为零均值和单位方差。适用算法归一化：适用于K近邻（KNN）、神经网络等对特征范围敏感的算法。标准化：适用于线性回归、逻辑回归、SVM、K-means等需要数据服从正态分布或需要计算距离的算法。对异常值的敏感性归一化：对异常值敏感，极值会影响结果。标准化：对异常值不敏感。计算复杂度归一化：计算简单，只需找到最大值和最小值。标准化：计算复杂，需要计算均值和标准差。
2024-06-23 15:44:12
213
原创 【机器学习算法基础】（基础机器学习课程）-02-特征工程和文本特征提取-笔记
5 tf-df分析问题特征工程是将原始数据转化为可以用来训练机器学习模型的特征的过程。简单来说，特征工程就是从数据中提取出有用的信息，使得机器学习模型可以更好地理解和利用这些信息。文本特征提取是将文本数据转换为机器学习模型可以处理的数值特征的过程。由于文本数据是非结构化的，需要通过特征提取将其转化为结构化的数据。特征工程和文本特征提取是机器学习中非常重要的步骤。通过特征工程，我们可以从原始数据中提取出有用的信息，增强模型的性能。
2024-06-22 17:17:05
679
原创 【机器学习算法基础】（基础机器学习课程）-01-机器学习介绍-笔记
机器学习是一种通过算法从数据中自动学习并改进性能的技术。它能够从历史数据中提取规律，并应用这些规律对新数据进行预测或决策。简单来说，就是教计算机从大量数据中总结规律，然后用这些规律来解决新问题。机器学习是一门发展迅速的技术，已在多个领域取得了显著成果。本课程将系统地介绍机器学习的基本概念、算法和应用，帮助读者掌握机器学习的核心技术，并能够将其应用于实际问题。。
2024-06-22 12:20:07
1048
原创 【机器学习中的数学基础】（5）——笔记
最速下降法：通过沿着目标函数梯度的反方向迭代移动，逐步逼近函数的最小值。基本步骤：初始化、计算梯度、更新参数、迭代。应用：广泛应用于机器学习、统计学、工程设计和图像处理等领域。优缺点：算法简单、适用范围广，但收敛速度慢，依赖学习率，易陷入局部最优。理解最速下降法及其改进方法，可以帮助我们在多种优化问题中找到高效的解决方案。共轭梯度法：一种用于解决大型稀疏对称正定线性方程组和二次优化问题的有效算法。基本步骤：初始化、计算步长、更新解、更新残差、计算新搜索方向系数、更新搜索方向、迭代。应用。
2024-06-20 23:43:49
768
原创 【机器学习中的数学基础】（4）——笔记
随机变量：描述随机现象的变量，可以是离散的或连续的。概率分布：描述随机变量的可能取值及其概率，包括离散的概率质量函数（PMF）和连续的概率密度函数（PDF）。常见分布：离散分布如二项分布、泊松分布，连续分布如正态分布、均匀分布。应用广泛：统计推断、风险分析、质量控制和机器学习等领域。贝叶斯定理：用于根据新证据更新事件的概率。先验概率：初始估计的概率。后验概率：根据新证据更新后的概率。广泛应用：医学诊断、机器学习、金融分析、自然语言处理和决策分析等领域。
2024-06-20 20:14:26
824
原创 【机器学习中的数学基础】（3）——笔记
矩阵的逆：仅适用于方阵，前提是矩阵是非奇异的（行列式不为零）。矩阵的伪逆：适用于任意矩阵，包括方阵和非方阵，尤其在处理欠定或超定系统时非常有用。理解矩阵的逆和伪逆对于解决线性代数中的复杂问题非常重要，尤其在数据分析、信号处理和机器学习等领域。线性方程组是表示多个变量之间线性关系的方程组。常用的求解方法包括高斯消元法、矩阵方法、克拉默法则和最小二乘法。理解和解决线性方程组的问题对于许多科学和工程领域至关重要。二次型：一个关于向量的二次方程，由对称矩阵决定。正定性：描述矩阵是否对应一个开口向上的二次曲面。
2024-06-20 00:53:28
891
原创 【机器学习中的数学基础】（2）——笔记
链式法则是计算复合函数导数的强大工具，无论在单变量还是多变量情境下都非常有用。它在物理学、经济学、机器学习等多个领域有广泛的应用，通过链式法则，可以有效地分析和处理复杂系统中的变化关系。七：Hessian矩阵Hessian矩阵（Hessian Matrix）是多元微积分中的一个重要工具，用于描述一个多元函数的二阶偏导数。它在优化问题和曲率分析中具有重要的作用。Hessian矩阵是描述多变量函数二阶偏导数的矩阵，提供了函数在某点附近的曲率信息。它在优化问题、机器学习、经济学等多个领域有重要应用。
2024-06-19 19:32:24
637
原创 【机器学习中的数学基础】（1）——笔记
通过这些曲线，我们可以直观地看到不同时间复杂度的增长情况。常数时间最优，平方时间最差，而对数、线性和线性对数时间复杂度介于两者之间。了解这些复杂度可以帮助我们选择和优化算法，以提高性能。三：极限四：导数五：求导方法六：导数应用：费马定理七：导数应用 函数逼近函数逼近是数学中一种重要的技术，用于通过简单或者已知的函数逼近复杂的函数或数据。这种技术在数值分析、统计学、工程学等领域中有广泛的应用。
2024-06-19 15:17:50
978
1
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人