深度学习中的数学---第二章 神经网络的数学基础

本文深入探讨了神经网络背后的数学基础,包括一次和二次函数、单位阶跃函数、指数函数和正态分布。此外,还讨论了数列、递推关系、向量、矩阵和内积的概念,以及导数、偏导数和链式法则在误差反向传播中的应用。介绍了梯度下降法作为优化参数的工具,并概述了最优化问题在回归分析中的重要性。
摘要由CSDN通过智能技术生成
1.神经网络所需的函数

1.一次函数
y = a x + b ( a , b 为 常 数 , a ≠ 0 ) y=ax+b\quad(a,b为常数,a\neq0) y=ax+b(a,ba=0)
a称为斜率,b称为截距

2.二次函数
y = a x 2 + b x + c ( a , b , c 为 常 数 , a ≠ 0 ) y=ax^2+bx+c\quad(a,b,c为常数,a\neq0) y=ax2+bx+c(a,b,ca=0)
例如:最小二乘法
3.单位阶跃函数
u ( x ) = { 0 ( x < 0 ) 1 ( x ≥ 0 ) u(x)=\begin{cases}0\quad(x<0)\\ 1\quad(x\geq0) \end{cases} u(x)={ 0(x<0)1(x0)

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值