动手学习深度学习笔记

本文介绍了数据操作和预处理的基本步骤,探讨了线性代数中的矩阵运算,包括按轴求和与保持维度。接着讨论了自动求导在机器学习中的应用,并详细阐述了线性回归模型以及基础优化算法的选择,强调了批量大小在训练过程中的重要性,指出应适中选取以平衡计算效率和内存消耗。
摘要由CSDN通过智能技术生成

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档


前言


04数据操作 + 数据预处理

在这里插入图片描述

05线性代数实现

在这里插入图片描述
在这里插入图片描述
按照axis = 0求和,相当于把5去掉,从[5,4]变成[4]

如果加上keepdimension的话,那一个维度不是去掉而是变成1
在这里插入图片描述
在这里插入图片描述

06矩阵运算

x是标量,y是标量,y对x求导是标量
x是标量,y是向量,y对x求导是向量
x是向量,y是标量,y对x求导是向量
x是向量,y是向量,y对x求导是矩阵
在这里插入图片描述
在这里插入图片描述


在这里插入图片描述


在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

07自动求导

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

08线性回归+基础优化算法

选择批量大小:不能太小,每次计算量太小,不适合并行来最大利用计算资源,也不能太大,会使内存消耗增加,浪费计算,例如如果所有样本都是相同的。


总结

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值