![](https://img-blog.csdnimg.cn/20201014180756926.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
文章平均质量分 93
includeSteven
这个作者很懒,什么都没留下…
展开
-
李宏毅机器学习 卷积神经网络
卷积神经网络介绍卷积神经网络一般用来针对影像进行处理。为什么需要卷积神经网络(Convolutional Neural Networks, CNN)呢,因为对于任意一个模型,如果使用全连接前馈网络,也就是使用深度神经网络DNN,那么我们会需要大量的参数。而使用CNN,可以简化neural network的架构,把某些weight用不上的,一开始就过滤掉。整体来讲,就是利用power-knowledge把原来fully connect layer中一些参数拿掉就成了CNN。small region原创 2022-05-29 00:10:58 · 627 阅读 · 0 评论 -
李宏毅机器学习 神经网络设计的技巧
神经网络设计的技巧局部极小值与鞍点介绍1.local minimalocal minima没有办法可以解决2.saddle pointcritical point:gradient为0的点鞍点saddle point:gradient为0的点,但不是local minima的地方L(θ)L(\theta)L(θ)在θ=θ′\theta = \theta'θ=θ′附近的函数值可以表示如下(泰勒展开),其中的ggg为梯度(一次微分),H(Hessian矩阵)是二次微分:L(θ)≈L(θ′)+(原创 2022-05-26 00:04:18 · 121 阅读 · 0 评论 -
李宏毅机器学习 深度学习介绍
深度学习深度学习的发展趋势回顾一下deep learning的历史:1958: Perceptron (linear model)1969: Perceptron has limitation1980s: Multi-layer perceptronDo not have significant difference from DNN today1986: BackpropagationUsually more than 3 hidden layers is not helpful原创 2022-05-22 23:36:59 · 117 阅读 · 0 评论 -
李宏毅机器学习 误差和梯度下降
误差和梯度下降误差一次模型的方差就比较小的,也就是是比较集中,离散程度较小。而5次模型的方差就比较大,同理散布比较广,离散程度较大。所以用比较简单的模型,方差是比较小的(就像射击的时候每次的时候,每次射击的设置都集中在一个比较小的区域内)。如果用了复杂的模型,方差就很大,散布比较开。这也是因为简单的模型受到不同训练集的影响是比较小的。这里没办法知道真正的 \hat{f}f^,所以假设图中的那条黑色曲线为真正的 \hat{f}f^结果可视化,一次平均的 \bar{f}没有5原创 2022-05-20 22:21:24 · 116 阅读 · 0 评论 -
李宏毅机器学习 回归Regression
回归(Regression)回归的应用:股市预测:Stock Market Forecast,输入前面的股市行情,输出明天的结果自动驾驶:Self-driving car,输入一些场景,输出方向盘角度推荐系统:Recommendation,使用者A购买商品B的可能性预测宝可梦的攻击值:Estimating the Combat Power(CP) of a pokemon after evolution,输入宝可梦的所有属性(进化前的CP值、物种Bulbasaur、血量HP、重量Weight、高原创 2022-05-18 21:49:40 · 172 阅读 · 0 评论 -
机器学习西瓜书&南瓜书 支持向量机
机器学习西瓜书&南瓜书 支持向量机1. 间隔与支持向量给定训练样本集D=(x1,y1),(x2,y2),...,(xm,ym),yi∈−1,+1D={(\boldsymbol{x}_1, y_1), (\boldsymbol{x}_2, y_2), ..., (\boldsymbol{x}_m, y_m)}, y_i \in {-1, +1}D=(x1,y1),(x2,y2),...,(xm,ym),yi∈−1,+1,分类学习最基本的想法就是基于训练集D在样本空间中找到一个划分超平原创 2022-03-31 22:53:00 · 1326 阅读 · 0 评论 -
机器学习西瓜书&南瓜书 神经网络
机器学习西瓜书&南瓜书 神经网络1. 神经元模型神经网络:由具有适应性的简单单元组成的广泛并行互连的网络,它的组织能够模拟生物神经系统对真实事件物体所做出的交互反应。神经网络最基本的成分是神经元neuron模型,即定义中的“简单单元”,接下来以M-P神经元模型为例讲解:神经元接收来自n个其他神经元传递的输入信号,这些输入信号通过带权重的连接(connection)进行传递,神经元接收到的总输入值将与神经元的阈值进行比较,然后通过“激活函数”(activation function,也称响应原创 2022-03-27 22:41:39 · 1139 阅读 · 0 评论 -
机器学习西瓜书&南瓜书 决策树
机器学习西瓜书&南瓜书 决策树1. 基本流程决策树是一类常见的机器学习方法。以二分类为例,希望从给定训练集学得一个模型用以对新示例进行分类。决策树在决策过程中提出的每个判定问题都是对某个属性的“测试”,每个测试的结果或是导出最终结论,或是导出进一步的判定问题,其考虑范围是在上次决策结果的限定范围之内。决策树学习的目的是为了产生一颗泛化能力强,即处理未见示例能力强的决策树,及基本流程遵循简单且直观的“分而治之”策略,如下图:在决策树基本算法中,有三种情况会导致递归返回:当前结点包含的样本原创 2022-03-24 23:43:17 · 901 阅读 · 0 评论 -
机器学习西瓜书&南瓜书 绪论&模型评估与选择
机器学习西瓜书&南瓜书 绪论&模型评估与选择绪论基本概念计算机科学是研究关于“算法”的学问,机器学习是研究关于“学习算法”的学问,在计算机上从数据中产生“模型”的算法。数据集:对应数据的集合。示例(instance):数据集中的每条记录都成为实例或样本(sample),如果把示例中的每个属性都是单独的左边,可以把一个示例称为一个特征向量(feature vector)属性(attribute):事件或对象在某方便的表现或性质,也称特征(feature)属性值(attribute原创 2022-03-15 22:16:12 · 1214 阅读 · 0 评论 -
机器学习西瓜书&南瓜书 线性模型
机器学习西瓜书&南瓜书 线性模型1. 基本形式给定由d个属性描述的示例x=(x1;x2;...xd)x=(x_1;x_2;...x_d)x=(x1;x2;...xd),其中xix_ixi是x在第i个属性上的取值,线性模型(linear model)试图学得一个通过属性的线性组合来进行预测的函数,即:f(x)=ω1x1+ω2x2+...+ωdxd+bf(x) = \omega_1x_1 + \omega_2x_2 + ... + \omega_dx_d + bf(x)=ω1x1+原创 2022-03-21 23:17:49 · 1336 阅读 · 0 评论