- 博客(4)
- 收藏
- 关注
原创 简单神经网络批处理时梯度计算(标量对矩阵的求导)
简单神经网络批处理时梯度计算(标量对矩阵的求导,微分法) 学校的深度学习课程上老师介绍了损失函数在一个training data时对网络参数的求导,比较简单易求。然后介绍了批处理(同时有N个training data时)的求导并给出了结果,但是没给推导过程,当时我自己推了一下发现有些难点(涉及到矩阵微分的知识),值得整理记录一下。 问题介绍: 在如图的一个简单的二层神经网络中,网络的参数为W1W^1W1和w2⃗\vec{w^2}w2。当有N个输入数据时,X的维数为(D+1 x N)。那么各符号维数为:XD+
2021-09-09 00:19:01
344
原创 CG课exercise结果一览
CG课exercise结果一览exercise1exercise2exercise3exercise4exercise5exercise6 记录一下从ex1到ex6的改变(~ ̄▽ ̄)~ exercise1 openGL的安装及运行一个简单的demo: exercise2 在cube旁边创建一个管道,主要考验了一下3D图形的理解和indexed face list: exercise3 以法向量值作为物体的颜色(主要考了一下Transformation的应用。注意变换法线时应用M−TM^{-T}M−T,M为
2021-09-07 17:57:33
73
原创 吴恩达BP算法中公式的数学推导(不漏步,不跳步)
前言: 最近我在看吴恩达的机器学习的BackPropagation的时候,发现他在讲关于BP算法中公式的来源和推导的时候比较含糊,仅仅给了一点不严谨的intuition,让大家把公式死记住当成黑盒子来用。这对于想详细学习BP算法里公式的同学有点难受,于是我自己推了一下,感觉从数学上好像推得还算完整,就发到博客上当作笔记啦。如果你看了吴恩达的机器学习感觉这一块儿没有讲很清楚,也想进一步了解的话,可以...
2020-04-14 20:48:09
1150
3
转载 2019阿里校招测评题(编程)
明小学的小朋友们要举行一年一度的接力跑大赛了,但是小朋友们却遇到了一个难题:设计接力跑大赛的线路,你能帮助他们完成这项工作么? 光明小学可以抽象成一张有N个节点的图,每两点间都有一条道路相连。光明小学的每个班都有M个学生,所以你要为他们设计出一条恰好经过M条边的路径。 光明小学的小朋友们希望全盘考虑所有的因素,所以你需要把任意两点间经过M条边的最短路径的距离输出出来以供参考。 你需要设计这样一个函...
2020-04-02 21:01:02
354
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人