- 博客(26)
- 收藏
- 关注
RSS订阅原创 第一个图神经网络的实现
综合上面所有的内容，最重要的是以下两点：①不同GNN的本质区别是他们的消息传递机制不同，如GCN/GraphSAGE/GIN/GAT等等，只需要修改层的名称即可，目前已经达到了高度的集成化，不需要进行手撸，除非你的研究需要。Output层的输入不一样。●对于节点层面的任务而言可以直接self.conv = GCNConv(16, dataset.num_classes) ————这是直接把任务融合到卷积层也可以在卷积获取特征之后，后面加几个线性层●对于边层面的任务而言。
2023-11-20 16:19:41
65
原创 图神经网络简介---A gentle introduction to Graph Neural Networks
图是表示一些实体(nodes点)之间的关系(edges边)，可以在图的每个部分中存储信息。通过将方向性与边（有向、无向）相关联来专门化图。分为无向图、有向图。
2023-11-20 12:37:18
260
原创 apollo 7.0预测模块学习笔记
首先处理上游模块消息，得到障碍物、主车、主车轨迹等信息，然后分析障碍物所在场景给障碍物赋予不同级别，再根据场景和障碍物类别去配置不同evaluator，最后对短期轨迹或者意图做一个后处理，从而生成完整轨迹。当前Apollo 7.0的轨迹预测由于有许多工程化方法，尚未提供量化分析其性能的方法或指标。我们可以通过剥离其代码，使用到传统轨迹预测的评测指标上来。但不可否认的是，由于TNT本身方法在之前轨迹预测中表现较好，且其改进版本DenseTNT也拿到了相关比赛的第一名，我们认为该方法对于准确性是有依托的。
2023-11-16 21:22:16
454
2
原创 吴恩达深度学习_5_Week3序列模型和注意力机制：触发词检测
1、数据合成：创建语音数据集2、模型3、做出预测4、尝试自己的例子第五门课：序列模型第三周：序列模型和注意力机制了解了如何将深度学习应用于语音识别。在此作业中，您将构建语音数据集并实现用于触发词检测（有时也称为关键字检测或唤醒词检测）的算法。触发词检测是一种技术，它允许 Amazon Alexa、Google Home、Apple Siri 和百度 DuerOS 等设备在听到某个单词时唤醒。在本练习中，我们的触发词将是“激活”。每次听到你说“激活”时，它都会发出“叮当”声。
2023-11-14 13:46:45
124
原创 吴恩达深度学习_5_Week3序列模型和注意力机制：神经机器翻译
1、将人类可读的日期转换为机器可读的日期2、神经机器翻译与注意力3、可视化注意力第五门课：序列模型第三周：序列模型和注意力机制您将构建神经机器翻译 （NMT） 模型，以将人类可读日期（“2009 年 6 月 25 日”）转换为机器可读日期（“2009 年 6 月 25 日”）。您将使用注意力模型来执行此操作，注意力模型是最复杂的序列到序列模型之一。这款笔记本是与NVIDIA的深度学习研究所共同制作的。
2023-11-14 11:32:47
44
原创 吴恩达深度学习_5_Week2自然语言处理与词嵌入：表情符号
在这一部分中，您将实现一个名为“Emojifier-v1”的基线模型。模型的输入是对应于句子的字符串（例如“我爱你）。在代码中，输出将是一个形状为 （1,5） 的概率向量，然后您传入一个 argmax 层以提取最有可能的表情符号输出的索引。为了将我们的标签转换为适合训练 softmax 分类器的格式，让我们将 Y从其当前形状 当前形状 （m，1）变成“一热表示（m，5），其中每一行都是一个 one-hot 向量，给出一个示例的标签，您可以使用下一个代码截图器来执行此操作。
2023-11-14 11:06:13
48
原创 吴恩达深度学习_5_Week2自然语言处理与词嵌入：词向量操作
1、余弦相似度2、单词类比任务3、消除偏倚词向量第五门课：序列模型第二周：自然语言处理与词嵌入由于词嵌入的训练成本非常高，因此大多数 ML 从业者会加载一组预先训练的嵌入。完成此任务后，您将能够：1、加载预先训练的词向量，并使用余弦相似度来衡量相似性2、使用词嵌入来解决词类比问题，例如男人之于女人，就像国王之于__。3、修改词嵌入以减少其性别偏见接下来，让我们加载词向量。对于此作业，我们将使用 50 维 GloVe 向量来表示单词。
2023-11-14 10:34:48
45
1
原创 吴恩达深度学习_5_Week1循环序列模型：使用 LSTM 网络即兴创作爵士乐独奏
下面是我们将使用的模型的架构。这与您在上一个笔记本中使用的恐龙模型类似，只是您将在 Keras 中实现它。架构如下：我们将使用从更长的音乐片段中获取的 30 个值的随机片段来训练模型。因此，我们不会费心设置第一个输入 x⟨1⟩=0⃗，我们之前曾这样做过，以表示恐龙名称的开头，因为现在大多数这些音频片段都是从一段音乐中间的某个地方开始的。我们将每个片段设置为具有相同的长度 Tx=30使矢量化更容易。
2023-11-13 21:38:48
121
原创 吴恩达深度学习_5_Week1循环序列模型：角色级语言模型
您的模型将具有以下结构：1、初始化参数2、运行优化循环前向传播以计算损失函数反向传播，用于计算相对于损失函数的梯度剪裁渐变以避免渐变爆炸使用梯度，使用梯度下降更新规则更新参数。3、返回学习到的参数。
2023-11-13 21:14:06
37
原创 吴恩达深度学习_5_Week1循环序列模型：递归神经网络
1、基本递归神经网络的前向传播2、长短期记忆（LSTM）网络3、循环神经网络中的反向传播第五门课：序列模型第一周：循环序列模型递归神经网络（RNN）在自然语言处理和其他序列任务中非常有效，因为它们具有“记忆”。它们可以逐个读取输入𝑥⟨𝑡⟩（例如单词），并通过隐藏层激活传递从一个时间步到下一个时间步的一些信息/上下文。这使得单向RNN能够从过去获取信息以处理后续的输入。双向RNN可以从过去和未来获取上下文。符号：1、上标[𝑙]表示与第𝑙层相关联的对象。
2023-11-13 20:51:02
54
原创 吴恩达深度学习_4_Week4特殊应用：神经风格转变
最后，让我们创建一个成本函数，同时最小化风格成本和内容成本。公式如下：练习：实现包括内容损失和风格损失的总成本函数。计算总成本函数参数：J_content -- 上面编码的内容成本J_style -- 上面编码的风格成本alpha -- 调整内容成本重要性的超参数beta -- 调整风格成本重要性的超参数返回：J -- 如上述公式定义的总成本return JJ总成本是内容成本 J_content(C, G) 和风格成本 J_style(S, G) 的线性组合。
2023-11-13 20:07:41
66
原创 吴恩达深度学习_4_Week4特殊应用：人脸识别
1、问题描述2、YOLO3、在图像上测试训练YOLO第四门课：卷积神经网络第四周：特殊应用：人脸识别和神经风格转换将构建一个人脸识别系统。这里介绍的很多想法都来自于。人脸识别问题通常分为两类：1、人脸验证 - “这个人是声称的人吗？例如，在一些机场，你可以通过让系统扫描你的护照并验证你（护照持有人）是否是正确的人来通过海关。使用面部验证解锁的手机也是使用人脸验证。这是一个1对1的匹配问题。2、人脸识别 - “这个人是谁？例如，视频讲座展示了一个人脸识别视频（
2023-11-13 16:56:43
68
原创 吴恩达深度学习_4_Week3目标检测
回忆一下，我们试图检测80个类别，并使用5个锚框。我们已经在两个文件 “coco_classes.txt” 和 “yolo_anchors.txt” 中收集了关于80个类别和5个锚框的信息。让我们通过运行下一个单元格将这些量加载到模型中。汽车检测数据集的图像大小为720x1280，我们对其进行了预处理，变为608x608的图像。
2023-11-13 16:28:11
52
原创 吴恩达深度学习_4_Week2深度卷积网络：Residual networks
1、非常深的神经网络的问题2、构建残差函数3、在自己的图像上进行测试第四门课：卷积神经网络第二周：深度卷积网络：实例探究你将学习如何构建非常深的卷积网络，使用残差网络（ResNets）。在理论上，非常深的网络可以表示非常复杂的函数；但在实践中，它们很难训练。残差网络由何凯明等人引入，使你能够训练比以前实际可行的更深的网络。在这个任务中，你将：1、实现残差网络的基本构建块。2、将这些构建块组合起来，实现和训练一个用于图像分类的最先进的神经网络。3、本次任务将使用Keras完成。
2023-11-13 13:16:43
46
原创 吴恩达深度学习_4_Week2深度卷积网络：KerasTutorial
1、快乐之家介绍2、在Keras中建立模型3、结论4、Keras中其它函数第四门课：卷积神经网络第二周：深度卷积网络：实例探究在这个任务中将：1、学习使用Keras，一个高级神经网络API（编程框架），使用Python编写，可以在多个低级框架上运行，包括TensorFlow和CNTK。2、看看如何在几个小时内构建一个深度学习算法。为什么我们使用Keras？Keras的开发目的是为了使深度学习工程师能够快速构建和尝试不同的模型。
2023-11-13 12:43:36
33
原创 吴恩达深度学习_4_Week1卷积神经网络(2)
1、TensorFlow模型2、创建占位符3、初始化参数4、前向传播5、计算代价6、模型第四门课：卷积神经网络第一周：卷积神经网络本Task：1、实现在实现TensorFlow模型时会用到的辅助函数2、使用TensorFlow实现一个完整的ConvNet完成这个后，将能够：在TensorFlow中构建和训练一个用于分类问题的ConvNet。
2023-11-13 11:33:41
28
原创 吴恩达深度学习_4_Week1卷积神经网络(1)
实现卷积神经网络的构建模块：将实现的每个函数都将有详细的说明，指导完成所需的步骤：卷积函数，包括：1、零填充2、卷积窗口3、卷积正向传播4、卷积反向传播池化函数，包括：1、池化正向传播2、创建掩码3、分发值4、池化反向传播使用NumPy从头开始实现这些函数。在下一个节，使用TensorFlow等效的函数来构建以下模型：注意：对于每个正向函数，都有相应的反向函数。因此，在正向模块的每个步骤中，将在缓存中存储一些参数。这些参数在反向传播过程中用于计算梯度。
2023-11-12 22:13:57
61
1
原创 吴恩达深度学习_2_Week3超参数调参、Batch正则化和程序框架(2)
在TensorFlow中完成以下任务：1、初始化变量2、开启自己的会话3、训练算法4、实现神经网络第二门课：改善深层神经网络：超参数调参、正则化以及优化第三周：超参数调参、Batch正则化和程序框架。
2023-11-10 15:47:22
46
1
原创 吴恩达深度学习_2_Week3超参数调参、Batch正则化和程序框架(1)
第二门课：改善深层神经网络：超参数调参、正则化以及优化。第三周：超参数调参、Batch正则化和程序框架。
2023-11-09 21:22:35
21
1
原创 吴恩达深度学习_2_Week2优化算法
之前的算法一直用梯度下降来更新参数并最小化代价函数，本优化算法可以加速学习过程，甚至获得更好的代价函数最终值。动量通常会有所帮助，但考虑到学习率小和数据集简单，其影响几乎可以忽略不计。此外，您在成本中看到的巨大振荡来自这样一个事实，即对于优化算法来说，某些小批量比其他小批量更难。另一方面，Adam 的表现明显优于小批量梯度下降和动量。如果在这个简单的数据集上运行模型更多时期，则所有三种方法都将获得非常好的结果。但是，你已经看到亚当收敛得更快了。
2023-11-09 21:17:44
45
1
原创 吴恩达深度学习_2_Week1深度学习的实用层面
你刚刚被法国足球协会聘为人工智能专家。他们希望你推荐法国守门员应该将球踢到哪个位置，以便法国队的球员可以用头顶球。您是一个团队的一员，负责使全球范围内的移动支付可用，并被要求构建一个深度学习模型来检测欺诈行为。每当有人进行支付时，您希望检查支付是否可能存在欺诈行为，例如用户的账户是否被黑客接管。但是，反向传播的实现相当具有挑战性，并且有时会出现错误。由于这是一个关键任务，您公司的首席执行官希望非常确信您的反向传播实现是正确的。您的首席执行官说：“给我一个证明，证明您的反向传播确实有效！
2023-11-09 19:32:51
237
原创 吴恩达深度学习_1_Week4深层神经网络(2)
1、本模型所用函数包2、数据集3、模型框架4、测试自己的图片第一门课：神经网络和深度学习第四周：深层神经网络。
2023-11-08 16:45:31
40
1
原创 吴恩达深度学习_1_Week4深层神经网络(1)
1、本模型所用包2、初始化–两层、L层神经网络3、前向传播模型4、后向传播模型5、更新参数第一门课：神经网络和深度学习第四周：深层神经网络。
2023-11-07 21:53:23
48
原创 吴恩达深度学习_1_Week3浅层神经网络
1、本模型所用包2、数据集3、简单的逻辑回归分类算法4、神经网络模型5、所构建的神经网络模型在其它数据集上表现第一门课：神经网络和深度学习第三周：浅层神经网络。
2023-11-06 11:50:18
28
原创 吴恩达深度学习_1_Week2神经网络的编程基础(2)
1、得到一个数据集 (“data.h5”) (包含一组标记为cat和非cat的train图像，一组标记为cat和非cat的test图像)2、每个图像的形状为(num_px,num_px,3),3表示三个通道RDB，每个图像都是正方形：高度=宽度=num_px3、要求：构建一个图像识别算法，正确将图片分类为猫或者非猫。
2023-11-04 11:13:42
97
原创 吴恩达深度学习_1_Week2神经网络的编程基础(1)
1、向量化时间效益的比较2、激活函数的生成3、梯度输出4、重塑矩阵/向量尺寸5、规范化数据第一门课：神经网络和深度学习第二周：神经网络的编程基础。
2023-11-03 16:33:04
48
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人