机器学习数学基础学习笔记

这篇博客详细介绍了机器学习所需的数学基础,包括微积分中的导数、偏导数、方向导数和向量微分;最优化问题的一元与多元解法、约束极值问题及最优化算法如梯度下降;线性代数的范数、向量空间和谱分解等核心概念。
摘要由CSDN通过智能技术生成

机器学习数学基础学习笔记

1、 微积分

1.1 导数

一阶导数,是函数 的切线斜率

二阶导数,是切线斜率的变化速度,即曲线的弯曲程度,也称为“曲率”(curvature)

1.2 偏导数

  1. 偏导数,是多元函数 关于某个自变量 的导数,定义为:
  1. 梯度向量,gradient vector 将多元函数 的所有偏导数写成一个列向量,即是梯度向量。
  1. 二阶偏导数
  1. 混合偏导数

混合偏导数和求导顺序无关,二阶偏导数连续的时候,则有

  1. 海塞矩阵 多元函数的所有二阶偏导数就是海塞矩阵(Hessian Matrix):
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值