花书《深度学习》线性最小二乘代码实现
问题描述
假设我们希望找到最小化下式的xxx值
f(x)=12∣∣Ax−b∣∣22 f(x) = \frac{1}{2}||Ax-b||_2^2 f(x)=21∣∣Ax−b∣∣22
虽然存在专门的线性代数算法能够高效地解决这个问题,但是也可以探索如何使用基于梯度的优化来解决这个问题。
梯度下降法
代码如下:
import numpy as np
# 计算梯度
def gradient(A, x, b):
return np.matmul(A.T, (np.matmul(A,x) - b))
#
原创
2022-03-29 20:20:24 ·
2574 阅读 ·
0 评论