Andrew Ng 神经网络与深度学习 week1

最新推荐文章于 2024-06-20 10:13:55 发布
最新推荐文章于 2024-06-20 10:13:55 发布
阅读量393 收藏 1
点赞数 3
分类专栏： AI 文章标签： 神经网络 算法 机器学习 人工智能 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45870904/article/details/113547566
版权

神经网络与深度学习

文章目录

ReLu function(rectified linear unit)

例如房屋价格总不能是负的

在这里插入图片描述

rectified 修正表示的取的都是不小于零的值

sigma函数（取值0~1)

sigma函数和Relu函数都是active function

很明显可以看到 sigma函数在x>0的时候，梯度会逐渐趋近与0

所以Relu函数会使得梯度下降有更快的运算速度

一个基本的神经网络

在这里插入图片描述

神经元的核心是找到不同的特征作为输入 通过神经元的计算 得到y 不论训练集有多大

在这里插入图片描述

对于一个神经网络 在监督学习的环境下 我们给出x 神经网络都可以帮我们将其映射成为y

一个典型的应用

目前的能够创造经济价值的神经网络应用大多都是基于监督学习环境下的，神经网络一个最为典型的应用就是网站的在线广告推送，其能够推送出用户最愿意去点击的广告.

深度学习在监督学习下的主要应用（CNN RNN(适用于一维度序列数据(例如时间序列)) SNN CUSTOM/HYBRID NN）

在这里插入图片描述

SNN CNN RNN的表示图

在这里插入图片描述

监督学习下的数据分类

在这里插入图片描述

神经网络使得计算机能够更好地理解非结构化数据（人类生来就有的天赋）

为什么深度学习突然兴起了？？

以前不是数字化社会，很多问题的数据较小，传统的机器学习算法也只能处理不大的数据集.

现在互联网时代，各种数据很多，数据更加容易去收集，而神经网络恰恰是一种需要大数据集的算法，所以神经网络兴起了.

在这里插入图片描述

  1. 投入更多的数据 更大的神经网络 是一种最简单有效提高模型表现的方法

  2. 图像的左边，各种算法的表现基本相同，是因为在小数据量的情况下，算法的效能基本取决于自己设计的手工组件和一些细节的处理.而只有在大数据集的情况下，各种算法的性能才能够得以被区分开来

深度学习的三要素(Data computation algorithms)

其中algorithms主要的作用是推动computation 也就是计算速度(训练模型速度)的提高

设计深度学习的过程

在这里插入图片描述

很多时候，决定神经网络工作效率的关键是我们在实验过程中神经网络的迭代过程

而computation(计算速度)就决定了我们迭代速度的快慢，而迭代速度的快慢就决定了我们是否能够更加高效地对我们的想法进行验证和不断迭代，最终得到一个我们想要的模型.

典型例题集

在这里插入图片描述

这道题应该选择AD 正如我在为什么深度学习突然兴起了那里所提到的
在这里插入图片描述

不爱写程序的程序猿
关注
  • 3
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
吴恩达（Andrew NG）深度学习数据（course 1 week 2）
01-25
在本资源包中，我们关注的是吴恩达(Andrew NG)深度学习课程的第一门课程的第二周内容。吴恩达是机器学习和人工智能领域的知名专家，他的深度学习课程深受全球学员喜爱，为初学者和专业人士提供了深入理解深度学习...
【雷达信号分类】基于奇异值分解SVD结合概率神经网络和BP神经网络实现雷达信号分类特征提取 信噪比-准确率对比附Matlab代码
qq_59747472的博客
05-09 300
雷达信号分类是雷达技术的重要研究方向之一，其目的是根据雷达信号的特征将其归类到不同的类别。随着雷达技术的不断发展，雷达信号的种类和复杂程度也越来越高，传统的人工特征提取方法难以满足实际应用的需求。近年来，基于深度学习的雷达信号分类方法得到了广泛的关注，并取得了较好的效果。本文提出了一种基于奇异值分解（SVD）结合概率神经网络（PNN）和BP神经网络的雷达信号分类方法。首先，利用SVD对雷达信号进行降维处理，提取其主要特征信息。然后，分别使用PNN和BP神经网络对降维后的特征进行分类。
深度学习与神经网络习题（1）
Ritajiaojiao的博客
10-22 7148
网易云课堂上吴恩达教授的《神经网络与深度学习》的课程，第一周的测试题
【数据生成】基于SNN浅层神经网络数据生成Matlab实现
最新发布
matlab_dingdang的博客
06-20 399
近年来，深度学习技术在图像识别、自然语言处理等领域取得了巨大的成功。然而，深度学习模型通常需要大量的数据进行训练，而现实生活中很多任务的数据量不足，限制了深度学习技术的应用。为了解决这一问题，数据生成技术应运而生，其中基于SNN浅层神经网络的数据生成方法因其效率高、可解释性强等优点而备受关注。SNN (Spiking Neural Network，脉冲神经网络) 是一种模拟生物神经元工作机制的神经网络模型，其神经元通过脉冲信号进行通信，更接近生物神经系统的真实工作方式。
深度学习中的sigmod函数、tanh函数、ReLU函数
键盘上跳舞的精灵
12-31 7955
1. sigmod核函数 sigmod函数的数学公式为: 函数取值范围(0,1),函数图像下图所示: 二. tanh(x) 函数 tanh(x)函数的数学公式为： 函数取值范围(-1,1),函数图像下图所示： 三. ReLU（校正线性单元：Rectified Linear Unit）激活函数ReLU函数公式为 : 图像为： 四、高斯核函数（RBF） 又称径向基函数，公式如
神经网络与深度学习期末考试满分过题库！
虎康的博客
07-04 1万+
神经网络与深度学习期末考试满分过题库！ 文章如有侵权请联系博主文章立即删除 TensorFlow的特点有哪些（ E ） A、灵活性 B、可移植性 C、高效 D、多语言支持 E、以上全部都是 下列有关张量和和变量的说法正确的是（A） A、张量可以简单理解为多维度数组 B、以上都是 C、变量是一种特殊的张量 D、在TensorFlow中所… TensorFlow的特点有哪些（ E ） A、灵活性 B、可移植性 C、高效 D、多语言支持 E、以上全部都是 下列有关张量和和变量的说法正确的是（A） A、张量可以简单
神经网络与深度学习-课后习题
using namespace 数学工具构造器;
02-22 2753
文章目录2 机器学习概述习题2-1 分析为什么平方损失函数不适用于分类问题．习题2-2 线性回归的权重习题2-3 XXTXX^TXXT的秩2-4 结构风险最小化 最小二乘估计 岭回归2-5 最大似然估计与最小二乘估计在标签服从高斯分布时等价2.6 最大似然估计与最大后验估计2.9 欠拟合→高偏差，过拟合→高方差2.11 N-gram3 线性模型多分类Logistic RegressionSoftmax Regression感知机支持向量机y⋅y^y\cdot \hat{y}y⋅y^​ 形式的损失函数LR S
DeeplearningAI神经网络和深度学习第二周作业
11-08
在本资源中，我们关注的是DeeplearningAI平台上的“神经网络与深度学习”课程的第二周作业。这个作业由著名的人工智能专家吴恩达（Andrew Ng）教授指导，他是深度学习领域的先驱之一。吴恩达以其深入浅出的教学方式...
吴恩达深度学习第四周作业压缩包
06-07
【深度学习 吴恩达 课后作业】是本次压缩包的主题，这表明这是一个与深度学习相关的学习资源，由著名人工智能专家吴恩达（Andrew Ng）教授提供。吴恩达在深度学习领域的教学经验丰富，他的课程深受全球学习者喜爱。...
Coursera-Deep-Learning-Andrew-Ng:《深度学习》专项课程 之 记录自己学习过程中的笔记、编程作业
04-14
**注：详细完整版（选择题代码+相关附件下载+文字解释）**请参照：项目目录课程周数名称类型地址课程1 - 神经网络和深度学习Week 1深度学习概论————无编程作业————Week 2神经网络基础Note具有神经网络思维的...
ANDREW NG 公开课
09-24
通过深入学习并实践这些代码，你可以增强对逻辑回归和基本神经网络的理解，同时提升编程技能，这对于进一步探索深度学习和其他机器学习算法至关重要。这个压缩包是学习机器学习的宝贵资源，特别是对于初学者而言，它...
[神经网络与深度学习] Shallow Neural Networks习题解析
云水木石
05-31 2260
这是[神经网络与深度学习]课程第三周的习题，一共10道。 解答： 本课程中[i]表示第i层神经网络，(i)代表第i个样本，而下标i表示某层神经网络上第i个神经元。X是将训练样本横向排列而来，a代表激励输出向量。 所以答案是选项1、3、4、6 解答： 课程中讲到，tanh的输出在-1和1之间，数据具有归一化的分布，使得下一层的学习变得更加简单。 答案是True 解答： 计...
吴恩达神经网络与深度学习——神经网络基础习题1
cherry1307的博客
11-02 1501
吴恩达神经网络与深度学习——神经网络基础习题Building basic functions with numpysigmoid函数basic_sigmoid.pySigmoid 导数sigmoid_derivative.pyReshaping arraysimage2vector.pyNormalizing rowsnormalizeRows.pyBroadcasting and the sof...
邱锡鹏《神经网络与深度学习》—— 部分习题答案整理
热门推荐
zzbro
10-28 3万+
nndl
神经网络和深度学习练习题 第二周测验
sundanping_123的博客
01-09 2056
转自何宽 吴恩达 神经网络与深度学习 网易云课堂 练习题 第二周 神经元节点计算什么？ 【 】神经元节点先计算激活函数，再计算线性函数(z = Wx + b) 【★】神经元节点先计算线性函数（z = Wx + b），再计算激活。 【 】神经元节点计算函数g，函数g计算(Wx + b)。 【 】在 将输出应用于激活函数之前，神经元节点计算所有特征的平均值 请注意：神经元的输出是a = g（Wx ...
神经网络和深度学习-习题
bluegold998的博客
05-03 4211
神经网络和深度学习-习题背景习题功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 背景 最近在网易学习吴恩达的“神经网络...
聚类分析法-K-means聚类
ChadWick的博客
02-15 3211
K-means聚类法 1.简介 ​ 用层次聚类法聚类时，随着聚类样本对象的增多，计算量会迅速增加，而且聚类结果-谱系图会十分复杂，不便于分析，特别是样品的个数很大(如n>=100)的时，层次聚类法的计算量会非常大，将占据大量的计算机内存空间和较多的计算时间. ​ 为了改进上述缺点， 一个自然的想法是先粗略地分一下类，然后按某种最优原则进行修正，直到将类分得比较合理为止. 基于这种思想就产生了动态聚类法,也称逐步聚类法. ​ 动态距离法适用大型数据.动态聚类法有许多种方法，这里介绍一种比较流行的动态聚类
聚类分析法-层次聚类
ChadWick的博客
02-12 2948
聚类分析法 文章目录聚类分析法1.简介2.基本内容介绍1.数据变换2. 样品间亲疏程度的测度计算常用距离计算1. 闵式(Minkowski)距离2. 马氏(Mahalanobis)距离相似系数的计算1. 夹角余弦2.皮尔逊相关系数3.使用scipy.cluster.hierarchy模块实现层次聚类1. distance.padist2. linkage3.fcluster4.H=dendrogram(Z,p)4.基于类间距离的层次聚类1. 最短距离法2. 例子：3. 最长距离法4.例子： 1.简介 ​ 聚
RMSprop与Adam算法
ChadWick的博客
02-25 2316
文章目录RMSprop算法(Root mean squre)Adam(Adaptive moment estimation) 优化算法（将RMSprop和动量梯度结合在一起）超参数的选择 RMSprop算法(Root mean squre) 其基本思想和动量梯度下降法一样，也是为了消除梯度下降时纵轴方向的摆动而尽量不太影响水平轴，然后我们使用更大的learning rate 来高效的优化模型. 这里我们使用参数w来表示水平方向 参数b来表示竖直方向 那么 RMSprop的实现过程就是： On iterat
深度学习探秘：Andrew Ng教授的斯坦福深度神经网络PPT解析
"这份资源是斯坦福大学Andrew Ng教授关于深度学习和深度神经网络的PPT，涵盖了特征表示、深度神经网络以及深度学习的核心概念。Andrew Ng是机器学习和人工智能领域的知名专家，他通过模拟人脑的方式探讨如何改进学习...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值