跟李沐老师动手学习AI学习笔记:第二章——预备知识

目录

2.1 数据操作

1、二维数组是一维数组的叠加,三维数组是二维数组的叠加,四位数组是三维数组的叠加……

2、一些元素的操作

2.2 数据预处理

2.3 线性代数

2.3.1 现代基础知识

2.4 微积分/矩阵计算

1、亚导数

2、梯度

2.5 自动微分

2.6 概率论


2.1 数据操作

1、二维数组是一维数组的叠加,三维数组是二维数组的叠加,四位数组是三维数组的叠加……

 2、访问元素

访问一个元素:[1,2]

访问一行:[1,:]

访问一列:[:,1]

访问子区域:[1:3,1:]  (访问第1行到第3行的开区间(不包含第三行),及第1列到最后一列开区间)

访问跳跃区域:[::3,::2] (默认从第0行第0列开始,行每隔三访问,列每隔2访问)

 其他表示等:

        [:, :1]  #表示第1列

        [:, :2] #表示第1,2列

2、一些元素的操作

张量表示一个数值组成的数组,arange创建等差数组

 用shape属性来访问张量的形状和张量中元素总数

使用全0、全1、或者其他常量或从特定分布中随机采样的数字,这里((2,3,4))表示三维数组,三维是2,二维是3,一维是4

通过提供包含的数值的python列表来为所需张量中的每个元素赋予确定的值(二维数组)

打印shape是一个三维的数组

 常见的标准算数运算+ - * / ** (都是按元素分别进行计算)

 按元素,每个元素子元素进行运算,以下是求e的x次方,表示方法,因为e的2次方=7.3891,说一7.3891e+00的意思就是7.3891*10的0次方。

 把多个张量结合到一起,dim=0是按行堆在一起,dim=1是按列堆在一起 dim的取值范围由输入张量的维度决定,输入为n维张量,dim取值在[0,n-1],dim=0时是在最高维度进行拼接,dim=1是在次最高维度进行拼接。

cat中din的学习链接:torch.cat()中dim说明_torch.cat(dim=1)_IT pupil的博客-CSDN博客

 

 即使形状不同,我们仍然可以通过调用广播机制来执行按元素的操作

a+b是默认将两个矩阵都扩展成3*2的矩阵 a=[[0,0],[1,1],[2,2]] b=[[0,1],[0,1],[0,1]]

可以用[-1]选择最后一个元素,用[1:3]选择第二和第三个元素

 可以通过指定索引将元素写入矩阵

运行一些操作可能导致为新结果分配内存

执行原地操作

如果在后续计算中没有重复使用X,我们也可以使用X[:] = X+Y 或 X += Y来减少操作的内存开销

转换为Numpy张量

将大小为1的张量转换为python标量,用.item()

2.2 数据预处理

创建一个人工数据集并存储在csv文件中

通过pandas输出刚才的csv文件数据

 这里我的python版本是:(而mean在3.10.2及以下版本可以处理str类型数据,空值直接为NaN)

注意: 所以以下会出错。(所以如果读者也有这种问题不用太在意。)

 后边两个模块的代码也会有些问题

2.3 线性代数

2.3.1 现代基础知识

1、对于标量的操作:

2、对于向量的操作:

 

 

3、对于范数(范数:指的是向量或者矩阵的长度):

 

 

 

正交矩阵补充: 

 n阶矩阵A,如果满足A*A^T=A^T*A=E

A是正交矩阵(等价于)A^T=A^(-1)

A是正交矩阵(可推)矩阵A的模等于1

矩阵A的单位行向量*单位行向量的转置就等于1

 

置换矩阵补充:

置换矩阵可以通过多次的行列的提取、重组可以重新得到原来的矩阵。

2.4 微积分/矩阵计算

1、亚导数

        将导数扩展到不可微的函数

        例如:y = |x|

        dy/dx = 1,if x>0

                    0,if x<0

                    a,if x=0,-1<=a<=1

2、梯度

(1)标量、向量之间求导

标量x向量X
标量y\frac{\partial y }{\partial x}(标量对标量求导得到标量)\frac{\partial y}{\partial X}(标量对向量求导得到向量)
向量Y\frac{\partial Y }{\partial x}(向量对标量求导得到向量)\frac{\partial Y}{\partial X}(向量对向量求导得到矩阵)

 例1:y是标量,X是向量。

梯度就是指向变化最大的方向

 (以上两表加粗的就是向量。sum(x)中x是向量,||x||^2中x是向量,||x||^2=x1^2+x2^2+……+xn^2)

(第二个表中最后一个\frac{\partial v}{\partial x}\frac{\partial u}{\partial x}得到的是矩阵)

 例2:向量对向量求导得到矩阵

A是矩阵)

(2)向量的链式求导

2.5 自动微分

 2.6 概率论

  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值