博客摘录「 微积分(预备知识)4」2024年4月17日

本文探讨了在构建模型时如何通过微积分的优化和泛化理论解决训练问题,特别是强调了导数、梯度和链式法则在深度学习优化中的关键作用。
摘要由CSDN通过智能技术生成

我们真正关心的是生成一个模型,它能够在从未见过的数据上表现良好。 但“训练”模型只能将模型与我们实际能看到的数据相拟合。 因此,我们可以将拟合模型的任务分解为两个关键问题:

优化(optimization):用模型拟合观测数据的过程;
泛化(generalization):数学原理和实践者的智慧,能够指导我们生成出有效性超出用于训练的数据集本身的模型。

导数和微分

画图代码

微积分(预备知识)_backend_inline-CSDN博客文章浏览阅读1.9k次,点赞2次,收藏14次。一些基本的微积分概念与测试_backend_inlinehttps://blog.csdn.net/weixin_43479947/article/details/126987153?spm=1001.2014.3001.5502

小结

微分和积分是微积分的两个分支,前者可以应用于深度学习中的优化问题。

导数可以被解释为函数相对于其变量的瞬时变化率,它也是函数曲线的切线的斜率。

梯度是一个向量,其分量是多变量函数相对于其所有变量的偏导数。

链式法则使我们能够微分复合函数。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值