Self-Attention GAN的一些理解

其实那么多的attention机制,说白了就是一句话,重新分配权重,比如说现在有一个n维向量[x1, x2, x3..., xn],我觉得x1的值不足以代表其真实情况,所以希望利用x2,...xn的值来对其进行“修补”, 然后就是要找到一组权重w1, w2, w3...wn, 对其求加权平均(也不...

2018-12-20 10:33:07

阅读数 892

评论数 0

cs231n-assignment3的笔记

......Q1: Image Captioning with Vanilla RNNs (25 points)首先是rnn_step_forward,直接按照公式即可:next_h = np.tanh(x.dot(Wx) + prev_h.dot(Wh) + b) # [N, H] cache...

2018-04-03 21:34:45

阅读数 560

评论数 1

cs231n-assignment2的笔记

重度拖延症患者准备继续完成作业2了......首先题目链接点击打开链接Q1: Fully-connected Neural Network (25 points)在这一问中需要完成layers.py文件中的一些函数,首先是affine_forward,也就是前向计算,较为简单:N = x.shap...

2018-03-06 07:50:55

阅读数 2118

评论数 1

cs231n-assignment1的笔记

在看完cs231n前面几章的内容后,准备做一下assignment1,然后怕之后忘记,所以写博文记录一下......由于我是个low逼程序员,平时能用Windows就绝不用linux,所以在这次作业时使用虚拟机完成了作业,装好ubuntu16.04之后,配好环境,使用jupyter noteboo...

2018-02-17 15:43:23

阅读数 4396

评论数 5

cs231n_optimization_note

cs231n课程源网页 点击打开链接记录一下看教程过程中的自己的一些想法(顺便吐槽一下这个编辑器写公式好像有点疼,以后考虑用markdown),仅写一下一些自认为较为难理解的部分,跳过了很多较简单的内容......图片分类任务主要分为两个过程,首先得到一个得分方程,即将一张图片利用一些函数(Lin...

2018-02-15 22:20:14

阅读数 64

评论数 0

python中numpy的stack、vstack、hstack、concatenate、

在python的numpy库中有一个函数np.stack(), 看过一些博文后觉得别人写的太复杂,然后自己有了一些理解之后做了一些比较简单的解释np.stack首先stack函数用于堆叠数组,其调用方式如下所示:np.stack(arrays,axis=0)其中arrays即需要进行堆叠的数组,a...

2018-02-12 19:45:36

阅读数 4944

评论数 1

提示
确定要删除当前文章?
取消 删除
关闭
关闭