- 博客(4)
- 收藏
- 关注
RSS订阅原创 003.1.优化器（原理讲解）
由于博主时间有限，本来在之前应该还有一节关于损失函数的讲解，但我认为这两部分应该放在一起来理解。而且Loss函数创建的目的就是为了通过opertimzer来更新对应参数，所以就写了这篇博客，由于本章涉及的数学原理较多，涵盖了向量，级数，与概率论中的参数估计（矩估计），在查阅（chaoxi）了大量来自 YouTube和很多凸优化（又TM是数学）的知识后，决定用视频讲解的方式来讲解其数学原理，所以本章就只是一个大纲，后期会在b站上录一个关于原理讲解的视频（不会Latex打公式…）
2024-04-04 18:10:41
926
原创 002.Autograd
当pytorch内置的方法不能满足我们的一些操作时，(通常是需要将多个算子组合包装为新的类，或者自定义函数求梯度)，的时候，我们就需要自定义求梯度的方法。在定义新的类的时候，包括foward函数 +backward函数 . 最后再运用.apply函数实例化和.backward求梯度此函数必须接受一个context ctx作为第一个参数，之后可以传入任何参数，即在运算中在定义了运算法则之后，通过来存在前项运算中所产生的对应值在return的过程中，返回最后计算的值，而不是中间计算的值。
2024-03-23 18:28:17
893
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人