- 博客(8)
- 收藏
- 关注
RSS订阅原创 《Attention Is All You Need》笔记
大部分有竞争力的序列转换神经网络模型具备一个encoder-decoder（编码器-解码器）结构。其中，编码器将输入符号表征序列(x1, ……, xn)映射为一个连续的表征z = (z1, ……, zn)。给定z后，解码器生成输出的符号序列(y1, ……, ym)。每一步该模型都是自回归的，将前一步生成的符号加入输入，用于生成下一步的输出。Transformer模型整体上遵循了这一架构，使用了堆叠的self-attention（自注意力机制），编码器和解码器均使用了全连接层，如下图所示。
2023-04-29 10:55:47
132
原创 《Deep Reinforcement Learning for Autonomous Driving: A Survey》笔记
调研(D)RL在自动驾驶中的应用。
2022-10-10 22:44:38
1275
原创 《Deep Air: Forecasting Air Pollution in Beijing, China》笔记
使用LSTM循环神经网络预测北京未来空气质量。
2022-06-24 15:44:47
543
原创 《U-Net: Convolutional Networks for BiomedicalImage Segmentation》笔记
Olaf Ronneberger, Philipp Fischer, and Thomas Brox, 2015文章提出了的端到端训练的网络，以非常少的图像输入，在ISBI上的表现击败了别的方法，赢得了2015 ISBI细胞追踪挑战赛。1. 引言深度神经网络的成功受限于更大的数据集，更深的网络。CNN的典型任务是分类，图像的输出是单一分类标签。然而在许多视觉任务，尤其是生物图像处理中，需要的输出应包括位置信息，即，每个像素需要得到一个分类标签。而且，对于生物任务而言，数千张的训练图像是难以获
2022-05-18 15:49:05
434
原创 《Convolutional LSTM Network: A Machine Learning Approach for Precipitation Nowcasting》笔记
1. 绪论降水预测的时间紧迫和准确要求比传统天气预报任务（如周平均温度预报）要求更高。本质上，降水预测是时空序列预测问题，以过往的一系列雷达图作为输入，输出固定数量（>1）的一组将来的雷达图预测。本文提出全新卷积LSTM（ConvLSTM）网络用于降水预测。2. 前文2.1 降水预测问题抽象用一个M×N矩阵表示平面空间，每个小格中以P表示随时间变化的变量。观察即可以张量表示。记录观察到的张量，基于观测到的J个状态，计算接下来长度为K的时空序列：2.2 长短期记忆（L
2022-05-16 16:28:51
551
原创 《Robust Lane Detection From Continuous Driving Scenes Using Deep Neural Networks》笔记
作者:Zou, Q(Zou, Qin)[1];Jiang, HW(Jiang, Hanwen)[2];Dai, QY(Dai, Qiyu)[3];Yue, YH(Yue, Yuanhao)[1];Chen, L(Chen, Long)[4];Wang, Q(Wang, Qian)[1]DOI10.1109/TVT.2019.2949603@article{zou2019tvt, title={Robust lane detection fro...
2022-05-11 17:09:55
683
1
原创 《Systematic evaluation of CNN advances on the ImageNet》笔记
Dmytro Mishkina, Nikolay Sergievskiyb, Jiri MatasaDOI: 10.1016/j.cviu.2017.05.007@Article{CaffeNetBench2017, Title = {Systematic evaluation of convolution neural network advances on the Imagenet }, Author = {Dm
2022-05-08 14:49:48
501
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人