![](https://img-blog.csdnimg.cn/direct/7db6531510f24d2b9d92666f3c1abfb4.jpeg?x-oss-process=image/resize,m_fixed,h_224,w_224)
机器学习
文章平均质量分 96
机器学习
-指短琴长-
人工智能领域创作者,网络安全爱好者,同时熟练掌握C/C++,熟悉C++网络编程。
展开
-
优化方法——梯度下降算法
1. 何为梯度下降:2. 梯度下降的必要性:3. 梯度下降的思想:1. 公式:梯度下降的更新公式,其实就是参数 θ\thetaθ 的更新公式(θ\thetaθ是一个参数向量,nnn 表示迭代次数):其中 η\etaη 表示学习率,gradientgradientgradient 表示梯度:由于 θ={θ1,θ2,...,θm}\theta=\{\theta_1,\theta_2,...,\theta_m\}θ={θ1,θ2,...,θm} ,所以有:这里的 θj\theta_jθj 就是 θ\the原创 2024-06-13 17:27:04 · 563 阅读 · 0 评论 -
西瓜书总结——决策树原理+ID3决策树的模拟实现
本文是对西瓜书中决策树章节的一个总结,将核心内容整理出来,帮助大家在短时间内快速建立一颗决策树。本文不侧重于帮大家理解,只是做一个知识点的总结,做一个“把书读薄”的工作。1. 生成过程:一个递归过程,对于一个节点,每次选择一个最优的划分属性,划分出n个子节点。有三种情况需要递归返回,并将当前的节点设为叶子结点,不再划分:2. 核心任务:1. 信息熵(information entropy)2. 信息增益:3. 计算信息熵的代码演示:4. 根据信息增益选择划分属性的代码实现:3.2 增益率1. 信息原创 2024-06-08 21:04:55 · 919 阅读 · 0 评论 -
KNN算法实际应用案例:鸢尾花种类预测
1. scikit-learn数据集API介绍中获取数据的操作是在一个大类下的。1)sklearn小数据集使用获取小数据集,数据包含在datasets里,从本地获取,也就是活sklearn中有一小部分已经下好的数据集;例:使用获取鸢尾花数据集。返回值是鸢尾花数据集。# 1. 数据集获取# 1.1 获取小数据集用datasets.load_*()print(iris) # 会显示一堆的内容,但是阅读起来不方便2)sklearn大数据集使用获取大规模数据集,需要从网上下载,函数的第一个参数。原创 2024-02-22 17:46:52 · 1071 阅读 · 0 评论 -
KNN和kd树
1. K近邻算法(KNN)的概念K Nearest Neighbor 算法又称KNN算法,这个算法是机器学习里一个比较经典的算法,总体来说是比较简单的。1)定义一个样本与在特征空间中k个最相似(即样本空间中距离最近)的大多数样本属于同一个类别。来源:KNN算法最早是由Cover和Hart提出的一种分类算法。2)距离公式二维平面上点a(x1, y1)与b(x2, y2d12x1−x22y1−y22d12x1−x22y1−y2。原创 2024-02-19 11:22:31 · 1263 阅读 · 1 评论