最优化 - 梯度优化算法

最新推荐文章于 2024-04-03 19:22:56 发布

KeeJee

最新推荐文章于 2024-04-03 19:22:56 发布

阅读量2.8k

点赞数 1

分类专栏：最优化最优化算法文章标签：算法优化算法

本文链接：https://blog.csdn.net/ZK_J1994/article/details/73718014

版权

本文深入探讨了最优化领域的经典算法，包括梯度下降法及其变种共轭梯度法，以及牛顿法和拟牛顿法。此外，还介绍了信赖域方法和罚函数法在解决优化问题中的应用。

摘要由CSDN通过智能技术生成

本人总结的常用优化算法，主要讲解原理：http://download.csdn.net/detail/zk_j1994/9880349

主要包括梯度下降，共轭梯度法；牛顿法，拟牛顿法；信赖域方法，罚函数法。

# -*- coding: utf-8 -*-
"""
author: UniqueZ_
file:   gradient descent algorithm, CG method
date:   2017-06-23
remark: 原方程为(x1)**2 + 2*(x2)**2
"""
import numpy as np
import matplotlib.pyplot as plt

class Gradient_method:
    """ 使用的方向和梯度有关的优化算法: 梯度下降法 & 共轭梯度法 """
    def __init__(self, x0, gradient_threshold