深度学习 --- 线性代数

已于 2023-08-02 09:50:48 修改
阅读量1.1k 收藏 2
点赞数 1
分类专栏： 机器学习&深度学习 文章标签： 深度学习 线性代数
于 2021-11-19 12:10:16 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/YINZHE__/article/details/121419066
版权

目录

① 对称矩阵(symmetric matrix)

② 哈达玛积(Hadamard product) ：两个矩阵按元素乘法

 ③ 一个标量和tensor张量相加、相乘

④ 求任意形状张量的元素和

所有元素求和 

按特定轴求和

 ⑤ 求平均值(可按特定轴求)

⑥ 按某个轴计算累加求和

⑦ 点积：所有相同位置元素乘积之和

⑧ 矩阵向量积

举例：A = [a1, a2, a3, a4, a5]，x = [1, 1, 1, 1]，Ax中的第i个元素为ai和x的点积

⑨矩阵 x 矩阵

 ⑩ L2范数

  

⑪ L1范数

⑫ 弗罗贝尼乌斯范数 Frobenius norm

漂流の少年
关注
专栏目录
深度学习笔记--线性代数，概率论，数值计算
iwill323的博客
09-07 1031
Goodfellow deeplearning学习笔记 概率论、线性代数
大模型算法学习-数学基础-线性代数篇，让你在学习大模型算法之前，打好线性代数模块的数学基础
最新发布
04-15
- **Transformer模型**: Transformer是一种基于自注意力机制的深度学习模型，它彻底改变了自然语言处理领域。其中的关键组成部分，如多头自注意力层和前馈神经网络层，都涉及到大量的矩阵运算。 - **BERT模型**: ...
数学中几种积：点积(数量积/标量积/内积)、叉积(叉乘/向量积)、外积(张量积/Kronecker积)、哈达玛积(元素积)
rosefun96的博客
01-16 2万+
1 点积 点积（dot product)，又称数量积、标量积. 输入： 一种接受两个等长的数字序列（通常是坐标向量）； 输出： 返回单个数字。 在欧几里几何空间中，向量的点积运算又称为内积。 表示 代数定义 推广 矩阵的点积/内积，为对应矩阵元素的积之和。 A，B是定义为两个相同大小的矩阵。 值得注意的是，一些对于A，B大小不同，可以分别把它们组成的向量进行内积。 比如在numpy中： im...
数据挖掘笔记 - 数学基础（卷积）
shawn_gee的博客
12-19 970
一、初识卷积 卷积之所以叫“卷”积，可以参见知乎上的回答。个人认为，卷积的通俗理解就是“长江后浪推前浪，前浪死在沙滩上”。“后浪”推“前浪”的本质就是“后浪”和“前浪”叠加，然而随着时间推移，“前浪”并不会因为“后浪们”的叠加的“推”而越来越大，因为“浪”的势头会随着时间推移慢慢消解，最终导致“前浪死在沙滩上”而不是造成大“江”啸。卷积函数就是所有位置的“浪”的高低。 关于卷积，我主要参考了几...
点积，哈大马积，向量外积，矩阵乘法
qq_42256930的博客
04-03 531
例如，如果有两个矩阵 A = torch.tensor([[1, 2], [3, 4]]) 和 B = torch.tensor([[5, 6], [7, 8]])，它们的矩阵乘法为 torch.matmul(A, B)，结果为 [[1。例如，如果有两个张量 A = torch.tensor([[1, 2], [3, 4]]) 和 B = torch.tensor([[5, 6], [7, 8]])，它们的哈达马积为 A * B = [[1。哈达马积是指两个具有相同形状的张量的对应位置元素相乘。
Hadamard Product（哈达玛乘积）
sxl的博客
03-31 1万+
哈达玛乘积是机器学习中常用的一种矩阵计算操作。不同于传统矩阵相乘计算方式，它是对应矩阵元素相乘，的是两个相乘的矩阵必须行列数相同。在Pytorch中的具体操作是（详情点击）。当然，Numpy中也能计算就是*这个运算。具体的相乘细节看下面的图即可。
两向量常用的“积”-----------内积，外积，点乘，叉乘，哈达玛积，张量积
Minions的博客
03-11 1万+
向量是由n个实数组成的一个n行1列（n*1）或一个1行n列（1*n）的有序数组； 向量的点乘,也叫向量的内积、数量积，对两个向量执行点乘运算，就是对这两个向量对应位一一相乘之后求和的操作，点乘的结果是一个标量。 点乘公式 对于向量a和向量b：    ...
动手学深度学习2.3线性代数-笔记&练习详解（PyTorch）-Jupyter源代码
04-01
动手学深度学习2.3线性代数-笔记&练习详解（PyTorch）-Jupyter源代码
精品--百面深度学习-学习.zip
02-05
1. **基础知识**：线性代数、概率统计、微积分，这些是理解深度学习算法的基础，特别是矩阵运算和概率模型。 2. **神经网络**：深度学习的基石，包括前馈神经网络（FFN）、卷积神经网络（CNN）用于图像处理、循环...
深度学习-人工智能领域的经典作品
12-28
本书共分为十二章，分别介绍了深度学习的基础知识、线性代数、概率论和信息论、机器学习基础、神经网络基础、深度神经网络、优化方法、深度学习中的技术和应用等内容。 在第一章中，作者介绍了深度学习的发展历程和...
矩阵的 Hadamard 积
颹蕭蕭
01-11 1万+
矩阵的 Hadamard 积就是两个同维矩阵的逐**元素对应相乘**。
【矩阵求导】关于点乘 （哈达玛积）的矩阵求导
B417科研笔记
11-01 7460
在之前的博文中我们提到过，最好的求取矩阵梯度的方法就是将矩阵写成微分的形式： df\mathrm{d}fdf 化成 df=tr(GdX)\mathrm{d}f=\mathrm{tr}(\mathbf{G}\mathrm{d}\mathbf{X})df=tr(GdX)的形式， 就可以得到∇f=GT\nabla f = \mathbf{G}^T∇f=GT 在大部分情形中， df\mathrm{d}fdf的结果都是包含了一堆矩阵相乘而dX\mathrm{d}\mathbf{X}dX在其中的形式， 这时候可以通过
哈达玛积 Hadamard Product
WGS.
01-17 7542
Hadamard Product是一种矩阵乘法： m x n矩阵A = [aij]与矩阵B = [bij]的Hadamard积，记为A * B 。 新矩阵元素定义为矩阵A、B对应元素的乘积(A * B)ij = aij*bij。 当矩阵A、矩阵B为同阶矩阵时，两矩阵的哈达玛积为对应位置元素相乘 https://baike.baidu.com/item/%E5%93%88%E8%BE%BE%E7%8E%9B%E7%A7%AF/18894493?fr=aladdin ...
学习笔记：几种矩阵乘法（matmul product普通乘积、hadamard product矩阵点乘、kronecker product克罗内克积、斯特拉森矩阵乘法）
与贰的博客
07-08 3万+
1、普通矩阵乘法（matmul product）假设矩阵A大小是M*N，矩阵B大小是N*P，C=AB这里选取一个例子这里的矩阵乘法要求相乘的两个矩阵一个的行数得等于另一个的列数，否则，无法进行乘机运算。2、矩阵点乘（hadamard product）矩阵点乘，英文hadamard product，因此又称哈达码积。要求相乘的两个矩阵A和B大小完全相同，即A，B大小都为M*N，然后。下面举一个运算实...
【矩阵】含有点乘 （哈达玛积）的矩阵求导例子
weixin_50637207的博客
01-29 2475
看到论文中涉及到含有哈达玛积的求导，经一番查询后，得出过程，特此分享记录。提示：以下是本篇文章正文内容，下面案例可供参考。
矩阵内积、外积（克罗内克积）和Hadamard积
热门推荐
zhinanpolang的专栏
03-18 11万+
一、矩阵的内积：两个矩阵A、B对应分量乘积之和，结果为一个标量，记作<A,B>（与向量的内积/点积/数量积的定义相似）。 所以A、B的行数列数都应相同，且有结论<A,B>=tr(ATB)。 例如：,,则<A,B>=1*5+2*6+3*7+4*...
Hadamard积介绍
欢迎来到道的世界
04-20 3380
Hadamard\rm{Hadamard}Hadamard积  设A=[aij]m×n\mathbf{A} = [\bm{a}_{ij}]_{m \times n}A=[aij​]m×n​和B=[bij]m×n\mathbf{B}=[\bm{b}_{ij}]_{m \times n}B=[bij​]m×n​为同阶矩阵，则A\mathbf{A}A和B\mathbf{B}B的Hadamard\rm{Hadamard}Hadamard被定义为AB\mathbf{A}\mathbf{B}AB ...
深度学习-线性代数
零度畅想
12-01 1250
仅包含⼀个数值的叫标量（scalar），标量由只有⼀个元素的张量表⽰。 可将向量视为标量值组成的列表。这些标量值称为向量的元素（elements）或分量（components） x = torch.arange(4) #tensor([0, 1, 2, 3]) 若⽂献认为列向量是向量的默认⽅向，则描述为4X1矩阵，x[3] == tensor(3) 当一个向量由n各实体值标量组成时，可以用 len(x) 函数来计算长度； 当用张量表示一个向量(只有一个轴)时，需要用.shape属性来访问向量的长度，返.
【深度学习数学工具】Hadamard乘积
weixin_45225032的博客
02-27 1382
Hadamard乘积（也称为逐元素乘积、点乘或Schur乘积）是两个矩阵之间的一种操作，它产生一个新的矩阵，新矩阵中的每个元素是原始两个矩阵中对应位置元素的乘积。对于两个形状相同的矩阵A和B，它们的Hadamard乘积CA∘BCij​Aij​×Bij​其中Cij​Aij​和Bij​分别是矩阵CA和B在第i行第j列的元素。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

漂流の少年

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值