- 博客(10)
- 收藏
- 关注
RSS订阅原创 【菜鸟笔记|算法导论】动态规划和贪心算法总结与python实现
动态规划和贪心算法是两个常见的算法，它们既有相似处也有不同处。本文先分别介绍动态规划和贪心算法，并各给出一道例题python版，最后总结两种算法的异同。一、动态规划动态规划将问题分解为子问题，不同子问题具有公共子子问题，子问题的最优解就是总问题的最优解，这样可以进行递归或迭代求解。动态规划常用来求解最优化问题。求解方法有自顶向下和自底向上两种。自顶向下法就是在普通递归上引入备忘机制。自底向上更为常用，它是将子问题按规模排序，按从小到大的顺序求解。动态规划的核心是找到最优子结构，然后通常采用自底向上方法计
2020-12-04 16:04:03
523
原创 【菜鸟笔记|机器学习】隐马尔可夫模型
隐马尔可夫模型主要用于时序数据建模，在音频处理上有广泛的应用。本文将简单介绍隐马尔可夫模型及其三个基本问题。一、定义隐马尔可夫模型就是根据马尔科夫链生成一组状态随机序列，然后根据每一个状态得到一组观测序列，下图比较直观地描述了马尔可夫模型：数学描述如下：二、两个基本假设齐次马尔可夫假设：it只与it-1有关观测独立性假设：ot只与it有关三、三个基本问题1.概率计算问题定义：已知λ=(A,B,π)和O=(o1,o2,…,oT)，计算P(o|λ)。由于直接计算法时间复杂度过高，引入了前
2020-11-26 10:11:10
415
原创 【菜鸟笔记|算法导论】数据结构总结与python实现
栈、队列、链表、散列表、二叉树、二叉搜索树简述与python实现。其中链表和二叉树附上基本数据操作的代码。1.栈栈是一种先入后出的数据结构。在python中，栈是由list实现的。list是用中括号括起来的。list实现：入栈append()，出栈pop()2.队列队列是一种先入先出的数据结构。在python中，队列可用list实现，也可用queue模块。list实现：入队append()，出队pop(0)queue实现：定义Queue()，入队put()，出队get()3.链表链表是一种
2020-11-20 10:43:59
235
原创 【菜鸟笔记|机器学习】神经网络
今天学习的神经网络模型，和大脑的神经元很相似，可以说是深度学习的基础了。神经网络最基础的模型是感知机，由感知机发展为神经网络。求解神经网络中权重的算法是误差逆传播算法（BP）。1.感知机感知机由两层神经元组成，一个输入层，一个输出层。输出层经过一个激活函数（sigmoid函数）处理后可以得到我们想要的分类结果。感知机输入输出的关系可以表示为：权重ω和阈值θ就是我们要学习的参数。权重和阈值可统一为权重的学习。感知机权重的学习就是根据当前感知机的输出不断去更新权重的过程：2.BP算法感知机只有输出
2020-10-29 15:20:07
691
原创 【菜鸟笔记|机器学习】贝叶斯分类器
理论部分：朴素贝叶斯算法用于分类任务，基于贝叶斯理论。对于类别c和属性x，贝叶斯公式如下：其中P(c|x)是后验概率，P©是先验概率。所谓贝叶斯分析，就是利用先验概率去估计后验概率的过程。对于所有类别来说P(x)相同，因此基于贝叶斯判定准则有：意思就是选择后验概率大的类别作为分类结果。那么如何计算先验概率和条件概率呢？概率模型的训练过程就是参数估计的过程。对于参数估计，有两种解决方案：频率学派和贝叶斯学派。西瓜书上介绍的是频率学派的极大似然估计。就是根据数据采样来估计概率分布参数。先验概率可以
2020-10-27 11:05:02
156
原创 【菜鸟笔记|机器学习】支持向量机
理论部分：博主前面学习了线性模型和决策树，支持向量机（SVM）是第三种机器学习模型了。对于二分类问题，可能有很多个超平面可以把样本分开，而支持向量机就是去寻找最中间的那个超平面，也就是具有最大间隔的划分超平面。我们把支持向量机的主问题转化为对偶问题来求解。为了防止过拟合，引入了软间隔支持向量机。对于分类问题用的是支持向量机，对于回归问题则可以类似地使用支持向量回归（SVR）。这部分内容如下：1.SVM主问题SVM主问题就是求一个与已知数据集几何间隔最大的那个超平面。超平面可以用法向量表示为：我们
2020-10-23 10:37:50
257
原创 【菜鸟笔记|算法导论】十大排序算法总结与python实现
算法导论中提到了七种排序算法，再加上冒泡排序、选择排序、希尔排序，构成我们常说的十大排序算法。其中冒泡、选择、插入、希尔、归并、堆、快速排序都是比较排序算法（即通过对元素进行大小比较来确定顺序）；计数、基数、桶排序都是非比较排序算法。十大排序算法的性能比较如下表：下面将简单描述十大排序算法的原理，并分别用python实现。笔记自用就不附原理图了，如果对原理有疑问请参阅算法导论那本书，里面算法运行过程图解是非常清楚的。1.冒泡排序比较相邻两个数，若前面的数比后面的数大，则交换位置。每一轮最大的数沉底，
2020-10-15 10:52:59
446
原创 【菜鸟笔记|机器学习】决策树
之前先学习了线性模型，这次学习的是树形模型。由于决策树内容不多且易于理解，博主也没有花太多时间思考，本笔记较为精简，只记录决策树的划分选择。理论部分：决策树的关键在于如何选择最优划分属性。书中介绍了三种算法：ID3，C4.5，CART。其中ID3是最基础的算法。为减少过拟合，C4.5算法在ID3基础上进行改进。而CART则是使用了基尼指数，是目前最普遍的划分算法。1.ID3决策树学习算法ID3使用信息增益作为划分准则：选择信息增益最大的属性作为划分属性。2.C4.5决策树算法C4.5使用信息
2020-10-05 16:18:51
317
原创 【菜鸟笔记】绪论之作者有话说
这是我在CSDN的第一篇博客，就当是这个系列的开篇吧。博主今年通信工程大四，明年准备去国外读硕，然后回国工作。目标是成为一名音乐技术领域的算法工程师。然而不管是ee信号方向还是cs算法方向我都有太多需要学习的东西了。虽然想成为大佬，但现在还是菜鸟。因此我开了这么一个系列，用来记录自学过程中的总结和思考。主要是写给自己看，错误难免会有，我希望等若干年后再去看我的这些笔记，能看到技术上的成长。如果有大佬恰好看到，欢迎前来指教！如果有和我一样的小白看到，欢迎多多交流，一起加油！由于博主本科通信，硕士预计会读
2020-10-02 17:32:27
173
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人