![](https://img-blog.csdnimg.cn/20201014180756757.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习
文章平均质量分 90
了解深度学习,为以后研究生毕业论文打下基础
kodakun
新手上路,一切为研究生准备
展开
-
Task05:反向传播
一、背景梯度下降给到θθ\thetaθθθ(weight and bias)先选择一个初始的θ0\theta^0θ0,计算θ0\theta^0θ0的损失函数(Loss Function)设一个参数的偏微分。计算完这个向量(vector)偏微分,然后就可以去更新的你θ0\theta^0θ0百万级别的参数(millions of parameters)。反向传播(Backpropagation)是一个比较有效率的算法,让你计算梯度(Gradient)的向量(Vector)时,可以有效率的计算出来。转载 2021-08-25 21:03:22 · 74 阅读 · 0 评论 -
Task04:深度学习简介
一、深度学习的三个步骤我们都知道机器学习有三个step,对于deep learning其实也是3个步骤:Step1:神经网络(Neural network)Step2:模型评估(Goodness of function)Step3:选择最优函数(Pick best function)二、神经网络神经网络(Neural network)里面的节点,类似我们的神经元。神经网络也可以有很多不同的连接方式,这样就会产生不同的结构(structure)。在这个神经网络里面,我们有很多逻辑回归函数转载 2021-08-23 14:33:48 · 140 阅读 · 0 评论 -
Task04:logistic回归
一、逻辑回归的函数集上一篇讲到分类问题的解决方法,推导出函数集的形式为:将函数集可视化:这种函数集的分类问题叫做Logistic Regression(逻辑回归)。二、定义损失函数如下图所示,每个对象分别对应属于哪个类型(例如x3x^3x3属于C2C_2C2 )。假设这些数据都是由后验概率fw,b(x)=Pw,b(C1∣x)\mathrm{f}_{\mathrm{w}}, \mathrm{b}(\mathrm{x})=\mathrm{P}_{\mathrm{w}, \mathrm{b}}\l转载 2021-08-23 03:31:20 · 213 阅读 · 0 评论 -
Task04:概率分类模型
一、分类概念分类要找一个function函数,输入对象x的特征,输出为该对象在n个类别中的哪一个类别里。例子1:信用评分【二分类问题】输入:收入,储蓄,行业,年龄,信用指数……输出:是否给予贷款例子2:医疗诊断【多分类问题】输入:当前症状,年龄,性别,既往病史……输出:患了哪种疾病二、回归模型 VS 概率模型1、回归模型在解决分类问题时,假设还不了解怎么做,但之前已经学过了 regression。就把分类当作回归硬解。 举一个二分类的例子,假设所分类对象的特征 x,转载 2021-08-22 16:22:42 · 240 阅读 · 0 评论 -
Task03:梯度下降
一、梯度下降法在回归问题的第三步中,需要解决下面的最优化问题: θ∗=argminLθ(θ)\theta^{*}=\underset{\theta}{\arg \min L}(\th转载 2021-08-21 00:05:03 · 118 阅读 · 0 评论 -
Task03:误差从哪里来?
一、误差来源误差Error来源于两个部分,一个是Bias(偏差),另一个是Variance(方差)。Error:反映的是整个模型的准确度。Bias:反映的是模型在样本上的输出与真实值之间的误差,即模型本身的精准度。Variance:反映的是模型每一次输出结果与模型输出期望之间的误差,即模型的稳定性。假设真实的模型为f^\hat{f}f^,我们通过收集数据,根据回归中的三步骤训练得到我们的理想模型f∗f^*f∗,f∗f^*f∗就是f^\hat{f}f^的一个预估。整个过程就像是在打靶,f^\h转载 2021-08-20 23:05:08 · 112 阅读 · 0 评论 -
Task02:回归
一、定义Regression就是找到一个函数function,通过输入特征x,得到一个返回值。二、应用房价预测输入:根据房屋面积,地理位置等输出:预测房屋的价格股市的预测:输入:过去10年股票的变动,新闻咨询,公司并购咨询等输出:预测股市的明天的平均值三、步骤1、模型假设(线性模型)一元线性模型一元线性模型针对于单个输入特征的情况。以一个特征Xcp为例,此线性模型假设为:y=b+wx\mathrm{y}=\mathrm{b}+ \mathrm{w} \mathrm{x转载 2021-08-18 23:06:09 · 61 阅读 · 0 评论 -
Task01:初识机器学习
机器学习介绍机器学习,即让机器具有学习的能力。运用机器学习的手段,达到我们未来想要的人工智慧。而深度学习则是机器学习中的一个方法。机器学习目的学习机器学习,其实就是让机器能够自主学习。当我们编写一段代码之后,机器人能够有学习的能力,接下来完善程序使机器能够有自主学习的能力。例如,如果你希望他学会怎么做影像辨识,你只是需要下告诉它:看到这张图片,你要说这是猴子;看到这张图片,然后说是猫;看到这张图片,可以说是狗。它具有影像辨识的能力,接下来看到它之前没有看过的猫,希望它可以认识。机器学习所做的事情,可原创 2021-08-16 15:49:12 · 127 阅读 · 0 评论