- 博客(6)
- 收藏
- 关注
原创 Self-Attention GAN的一些理解
其实那么多的attention机制,说白了就是一句话,重新分配权重,比如说现在有一个n维向量[x1, x2, x3..., xn],我觉得x1的值不足以代表其真实情况,所以希望利用x2,...xn的值来对其进行“修补”, 然后就是要找到一组权重w1, w2, w3...wn, 对其求加权平均(也不一定是加权平均,看实际需求)来得到x1的最终值(当然,实际应用中会涉及到一些维度映射,Query-Ke...
2018-12-20 10:33:07
9781
原创 cs231n-assignment3的笔记
......Q1: Image Captioning with Vanilla RNNs (25 points)首先是rnn_step_forward,直接按照公式即可:next_h = np.tanh(x.dot(Wx) + prev_h.dot(Wh) + b) # [N, H]cache = (x, prev_h, Wx, Wh, b, next_h)rnn_step_backward,...
2018-04-03 21:34:45
2179
1
原创 cs231n-assignment2的笔记
重度拖延症患者准备继续完成作业2了......首先题目链接点击打开链接Q1: Fully-connected Neural Network (25 points)在这一问中需要完成layers.py文件中的一些函数,首先是affine_forward,也就是前向计算,较为简单:N = x.shape[0]x_reshape = x.reshape([N, -1])x_plus_w = x_re...
2018-03-06 07:50:55
7545
2
原创 cs231n-assignment1的笔记
在看完cs231n前面几章的内容后,准备做一下assignment1,然后怕之后忘记,所以写博文记录一下......由于我是个low逼程序员,平时能用Windows就绝不用linux,所以在这次作业时使用虚拟机完成了作业,装好ubuntu16.04之后,配好环境,使用jupyter notebook查看相应的要求Q1: k-Nearest Neighbor classifier由于我对matplo...
2018-02-17 15:43:23
10060
6
原创 cs231n_optimization_note
cs231n课程源网页 点击打开链接记录一下看教程过程中的自己的一些想法(顺便吐槽一下这个编辑器写公式好像有点疼,以后考虑用markdown),仅写一下一些自认为较为难理解的部分,跳过了很多较简单的内容......图片分类任务主要分为两个过程,首先得到一个得分方程,即将一张图片利用一些函数(Linear、MLP或者神经网络都是在做这个事)得出其对所有类别的得分,而要怎么评价一个这样的函数的好坏以便...
2018-02-15 22:20:14
256
原创 python中numpy的stack、vstack、hstack、concatenate、
在python的numpy库中有一个函数np.stack(), 看过一些博文后觉得别人写的太复杂,然后自己有了一些理解之后做了一些比较简单的解释np.stack首先stack函数用于堆叠数组,其调用方式如下所示:np.stack(arrays,axis=0)其中arrays即需要进行堆叠的数组,axis是堆叠时使用的轴,比如:arrays = [[1,2,3,4], [5,6,7,8]]这是一个二...
2018-02-12 19:45:36
9858
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人