- 博客(5)
- 收藏
- 关注
原创 从对偶定理看择一定理(Farkas为例)
与对偶定理相比,最大化问题和最小化问题的对偶没有那么明显。但x的无约束转为y的等式条件以及x的小于等于条件转为y的大于等于条件与对偶定理完全一致。可能便于理解一个有解,另一个必定无解的情况。上图是对偶问题,下图为Farkas引理。z与w的理解等之后思考好再补充。Farkas引理改变表达方式。
2023-09-19 21:41:05
229
原创 理解多面集表示定理的等号
显然x1和x2组成的二维平面上的任意一个点都能构造出线性方程组的解,可以理解为解空间是一个平面。对于如上方程组的任意一个方程来说,解空间则可以理解为三维立体空间。} 表达的范围可以理解为半个平面,在列不满秩的情况下,S的范围都有无穷大,所以令它为多面集就可以理解了。所以不理解在多面集表示定理中,怎么就用等号了呢?等号表示的还能是多面体吗?这是我的老师在多面集表示定理中设立的定义。在此前的课程中,对多面集(体)的定义是。今天尝试用线性方程组的解空间来理解。那么对应在最开始的定义中,令。
2023-09-19 20:38:55
165
原创 小批量随机梯度下降
梯度下降:通过方向(梯度反方向)+步长,在原有点的基础上更靠近最小值点。这里解释了为什么梯度反方向是下降方向,关于小批量和随机概念可参阅。《动手学深度学习》3.1中提及小批量随机梯度下降。处作一阶泰勒展开,可知满足条件。(梯度反方向)一定是下降方向。
2023-05-19 16:26:14
86
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人