数学基础学习
文章平均质量分 61
高数,概率论,统计
非零因子
终身学习
展开
-
高数基础——步长
1,什么是步长?在确定了搜索方向的情况下,讨论搜索步长,希望对下述函数求最小值直接求解上述函数的最小值的方法叫做精确线搜索(公式解),然而这需要耗费大量的计算,所以我们一般采用非精确线搜索(可能不是最小值,但差不多)inexact line search(1)函数应当有充分的下降(2)步长不宜太小【1】STEPS MIGHT BE TOO LONG --- 步长太大,会出现震荡现象【2】STEPS MIGHT BE TOO SHORT --- 步长太小会走不出去,提前收敛(.原创 2022-01-27 21:31:57 · 9357 阅读 · 2 评论 -
高数基础——线搜索
1,无约束优化问题(unconstrained optimization)无优化约束问题:即找函数在上的最小化的最优解,问题(1)如果且,则为全局最优点---最小值点(2)如果存在的一个邻域,使得且,则称为局部最优点---极小值点Theorem.1:局部极小值点,一阶导为0Theorem.2:,海瑟矩阵半正定(positive semidefinite)Theorem.3:(二阶充分条件)若,is positive definite,则是局部极小值点---判断最优解的法则T.原创 2022-01-23 00:23:11 · 1509 阅读 · 1 评论