![](https://img-blog.csdnimg.cn/20201014180756922.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习
文章平均质量分 65
u8392i120qj8
数学跨考人工智能
展开
-
残差网络ResNet
特点: 你不用去只挑选一个卷积核的大小或者是pooling,可以所有可能都做然后把所有的输出结果都连接起来,然后让神经网络取训练参数和卷积核的大小。使用残差块可以训练更深层的网络,而建立一个ResNet的方法就是通过大量的这些残差块,例如这个将他们堆叠起来,形成一个深层网络。残差网络对梯度下降和梯度消失有帮助, 深得多的神经元网络而不会看到性能倒退的现象。残差网络(ResNet)是使用了残差结构的网络。对于输入输出维度不同的用0填充。使用1x1的卷积层,减小参数。原创 2023-03-25 09:26:40 · 84 阅读 · 0 评论 -
词嵌入Word representation
一种单词的表现方法,这个算法能够自动进行以下类比,man对应woman, King对应queenone-hot模型的缺点,体现了单个词的表示但没有体现单词之间的联系,泛化能力弱因为独热向量间的乘积为0t-SNE算法,映射到低维空间如何使用单词嵌入来进行学习迁移:第一步是从大量的文本语料库学习单词嵌入,或者可以从网上下载已经训练好的单词嵌入然后可以把这些单词嵌入迁移到有着更小的已标记训练集的任务上然后用这个300维的词嵌入来代表单词,好处是你可以使用相对较低维的特征向量。原创 2023-03-01 19:28:01 · 80 阅读 · 0 评论 -
深度学习——神经网络
为了用向量表示这些像素矩阵,我们将把这些矩阵中的像素值展开为一个向量x作为算法的输入。原创 2023-02-25 14:32:52 · 212 阅读 · 0 评论 -
RNN循环神经网络
也置为全0矢量,a(1)用softmax预测尝试得到第一个单词y的概率,这一步实际上就是用softmax尝试预测单词表中每个单词的概率,如果单词表有10,000个单词这将是一个10,000路softmax输出。我们会在第0步的时候使用一些人为制造的激活数值,通常为一个全零的向量,有的研究者会随机的为a0设置初始值,用零作为激活是最常见的选择。标记句子的结束,通常我们会加一个叫做EOS(End of Sentence)的标记,帮助你定位句子的结束。语料库中未出现的单词用一个全局唯一的标记代替。原创 2023-02-26 21:28:08 · 90 阅读 · 0 评论 -
深度学习——卷积神经网络
灰度图像只是一个6x6x1的矩阵而不是6x6x3因为没有分开的RGB,为了检测边缘,建立一个3x3的矩阵,在池化(pooling)过程中这会被称为一个过滤器(filter),我们将要建立一个3x3的过滤器(核),你需要做的是获得6x6的图像并求其卷积。为了解决以上问题,用一个额外的边缘border)填充图片,在边界周围用一个1个像素的大小的额外边缘,现在的输入已经变成一个通过填充得到的8x8图片,通过填充保持了图片的原始大小6x6。最后的数是通道数,图像的通道数和过滤器的通道数要一致。原创 2023-02-26 10:27:54 · 221 阅读 · 0 评论