- 博客(9)
- 收藏
- 关注
RSS订阅原创 SVM——线性可分支持向量机
支持向量机用于解决二分类问题，对于线性可分的输入数据，我们能够找到无数个超平面将数据完全正确分类，对应于二维特征输入数据，超平面就是直线。但是，为了更好的去预测未知分类问题，SVM使用最大间隔以使正类负类到超平面的距离最大，即鲁棒性最强，这也符合人类直觉。如何得到最大间隔是重中之重，SVM求最大间隔是求解约束最优化问题。通常，我们利用拉格朗日对偶性将原最优化问题转换为其对偶问题进行求解，这样降低了计算难度，同时自然引入核函数。
2022-01-06 19:18:28
788
原创 机器学习笔记-多元线性回归
机器学习笔记-多元线性回归作者：星河滚烫兮文章目录前言一、基本原理二、数学推导三、公式整理四、代码实现前言 线性回归作为机器学习入门算法，数学原理清晰透彻，展现了机器学习的重要思想，线性回归虽然简单，但也能够解决很多问题。下面讲解线性回归的数学原理与代码实现。一、基本原理 如上图所示，我们有一些零散数据，我们希望用某个函数曲线拟合这些数据点，从而揭示数据分布的特征，预测未知样本。图中拟合出的是一条直线，但其实通过构造数据，多元线性回归可以拟合出任意曲线。 代价函数对于机器学习来说
2021-09-03 20:45:15
574
原创 ＞算法笔记-动态规划-最短路径迪杰斯特拉算法
算法笔记-动态规划-最短路径迪杰斯特拉算法作者：星河滚烫兮前言 图的最短路径问题在现实生活中有很广阔的应用，最短路径又分为单源最短路径与多源最短路径，前者求出固定起点到其他节点的最短路径，后者求出可变起点到其他节点的最短路径。同时，又有多种思想来求解，比如贪心算法与动态规划求解最短路径，前者求得局部最优解，时间复杂度与空间复杂度低代价小，被广泛应用；后者求得全局最优解，但时间复杂度与空间复杂度相对高，本文迪杰斯特拉算法便是动态规划思想。 迪杰斯特拉算法设置动态规划数组dp，根据最优化策略进行状
2021-09-02 23:31:09
1489
原创 算法笔记-动态规划求解0/1背包问题
算法笔记-动态规划求解0/1背包问题作者：星河滚烫兮前言 动态规划作为一种重要思想，被应用于方方面面，其最重要的是动态规划数组（dp数组）和状态转移方程。其实本质上是一种存储过去与当前的状态，同时在状态转移过程中进行最优化，得到全局最优解。以下是解决0/1背包问题的代码，问题描述与求解过程都放在注释里，大家结合代码和注释学习。C版本/* 问题描述：已知有背包最大容量为11，现有4个物品： wi = {2, 3, 4, 6}
2021-09-02 22:28:39
388
原创 算法笔记-堆排序（C版本）
算法笔记-堆排序作者：星河滚烫兮前言 本文重点关注堆排序代码的实现，因为注释写的比较详细，大家可以结合代码与注释学习。堆排序其实就是利用二叉堆这种数据结构的特性进行排序，二叉堆又分为最大堆（大根堆）和最小堆（小根堆），本质上是完全二叉树，以最小堆为例，要遵循父节点小于左右子节点的原则。下图是最小堆示例：代码（C版本）/* 这是一个堆排序程序*/#include<stdio.h>#include<stdlib.h>#define MAXSIZE 1
2021-09-02 21:26:50
98
原创 算法笔记-快速排序（C版本与Python版本）
算法笔记-快速排序作者：星河滚烫兮前言 本文主要聚焦于算法的代码实现，原理不做详细说明，可参考代码注释。代码分为C语言版本和python版本，其中C语言版本对于基准元素是选择首元素的，这样对于最坏情况时间复杂度会很高；python版本则是随机选择基准元素，可以有效避免特殊情况（比如数组初始时由大到小排列即倒序排列）。本文的快速排序都采用分治法加双指针，大家结合代码与注释学习。一、C版本#include<stdio.h>#include<stdlib.h>#def
2021-09-02 20:59:28
109
原创 机器学习笔记-神经网络的原理、数学、代码与手写数字识别
机器学习笔记-神经网络作者：星河滚烫兮文章目录前言一、神经网络的灵感二、使用步骤1.引入库2.读入数据总结前言 对于特征数目较少的问题，我们大多可以通过线性回归模型、逻辑回归模型等传统机器学习算法解决，然而面对图片这一类的每一像素点为特征的复杂问题，逻辑回归已经不能够准确的解决，因为我们就算压缩图片为20*20，那么也将有400个特征，对于这400个特征的多项式组合数我们不可能人为去选择。由此有了神经网络，通过网络内部对特征复杂的组合最终得到强大的学习模型，只不过我们对其内部的运算理解不会像
2021-09-02 18:09:00
245
2
原创 机器学习笔记-Logistic分类
我们知道，回归模型一般是去根据已有的标记数据去预测新事物。Logistic回归模型因为历史原因有“回归”二字，但其实是一个分类模型。而Logistic分类与其他分类模型比如聚类又有什么区别呢？Logistic分类是有监督学习，必须需要人工标注；聚类则是无监督学习，只需要原始自然数据不需要标签。Logistic分类包括二分类与多分类，本篇文章重点关心二分类算法的实现，多分类我们可以通过简单的二分类的组合去实现。
2021-07-20 13:00:44
766
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人