放弃模拟matlab的矩阵乘

最新推荐文章于 2023-02-22 18:49:22 发布
最新推荐文章于 2023-02-22 18:49:22 发布
阅读量98 收藏
点赞数
分类专栏： 杂记
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/agctXY/article/details/118729148
版权
博主在尝试解决RNN模型中的矩阵运算问题时，发现numpy的矩阵乘法与预期结果有出入。通过查找源码，了解到numpy内部使用了GEMM（通用矩阵乘法）等底层库进行高效计算。尽管感到复杂而选择放弃深入研究，但博主计划继续完成最简RNN的实现，并推荐进一步阅读关于BLAS和GEMM的内容，以增进对数值计算的理解。
摘要由CSDN通过智能技术生成

放弃模拟matlab的矩阵乘

起因

还在写那个RNN xp,还是不对,觉得可能是矩阵乘法错了.于是,经过测试,确实不一样

d:\code\mine\vanilla\compare>diff out_cpp out_py  
1,3c1,3
< 1.7167761234284160 1.7616568131194064 1.7897566910788287 2.3450596316506274
< 0.5677698850940601 0.8690656101943499 0.6785119951613739 0.9838943217054150
< 0.8930406835949810 0.9505367220796967 0.9824436446098963 1.2558288316762967
---
> 1.7167761234284158 1.7616568131194064 1.7897566910788287 2.3450596316506269
> 0.5677698850940601 0.8690656101943499 0.6785119951613739 0.9838943217054151
> 0.8930406835949810 0.9505367220796967 0.9824436446098962 1.2558288316762967

于是,想知道numpy的实现.

经过

到处搜来搜去,找来找去,最后还是在github上找到了源码,然后,
他们用了外部的代码,GEMM或SYRK,然后又找到了被称为GEMM的东西,感觉有些无所适从.

结果

原来这么复杂.我得放弃了 : )
不过那个最简RNN得做完.

Further Reading(下辈子看)

BLAS
“通用矩阵乘（GEMM）优化算法 | 黎明灰烬 博客”

agctXY
关注
专栏目录
Matlab在分形中的应用研究.pdf
06-27
Matlab以其矩阵处理能力、丰富的内置函数、清晰的编程语法和强大的图形处理功能而受到科研和工程人员的青睐。在非线性科学的重要分支——分形的研究中，Matlab也发挥着重要的作用。 分形是自然界中普遍存在的复杂...
BLAS 3级例程(矩阵-矩阵操作)
菜牙
06-21 3385
BLAS 3级函数(矩阵-矩阵操作) cblas_?gemm(计算矩阵-矩阵乘积) cblas_sgemm (const CBLAS_LAYOUT Layout, const CBLAS_TRANSPOSE transa, const CBLAS_TRANSPOSE transb, const MKL_INT m, const MKL_INT n, const MKL_INT k, const float alpha, const float *a, const MKL_INT lda, const
人工蜂群算法 优化算法 Matlab 附测试函数, ABC Algorithm and benchmarks
06-27
4. 共享信息：在整个过程中，蜜蜂会通过某种方式（在Matlab代码中可能是通过更新矩阵）分享它们找到的优秀解，以便其他蜜蜂可以学习并改进其搜索策略。 5. 停止条件：算法会根据预设的迭代次数或达到特定的精度阈值...
很好的一个蜂群算法 基于matlab实现的源程序 从作者那要过来的.rar
最新发布
05-02
MATLAB实现蜂群算法时，可以利用其矩阵运算和循环控制结构，以及内置的优化工具箱函数，如`fmincon`或`ga`，进行算法的封装和调用。此外，MATLAB的图形界面和绘图函数能帮助我们直观地观察算法的收敛过程和结果。 ...
基于MATLAB的一种混合遗传算法的研究.pdf
11-02
MATLAB作为一种工程软件包，提供了强大的矩阵操作能力，用户可以不需要编写复杂的底层算法代码，直接使用MATLAB进行GA的编程。它简化了算法的实现过程，降低了算法开发者对编程语言的要求，因此在GA的研究和实现中...
基于MATLAB 的DCT编解码程序
11-30
DCT的原理在于它能够将图像的能量集中在低频系数上，而高频系数则包含较少的能量，这些高频系数可以在压缩过程中被舍弃，从而达到压缩的目的。 ### 三、MATLAB中的DCT实现 #### 1. 图像读取与预处理 在MATLAB中，...
vscode workspaceStorage (只是吐槽,这篇文章没有技术价值)
agctXY的博客
07-01 5950
@[TOC](vscode workspaceStorage (只是吐槽,这篇文章没有技术价值)) 欢迎使用Markdown编辑器 昨天考完了最后一科,我终于脱离了考前复习的魔掌.今天决定把已经变红的C盘清一清,不想安装电脑管家之类软件的我,想使用python来自动的找出文件夹的大小,可以奈何本人水平太低,只能使用os.path.isfile os.path.isdir os.path.islink 和 Path().is_symlink 来判断是否使文件夹或是链接或是文件,但是无法判断是否使junctio
错误记录 (误用 rmdir /s /q .)
agctXY的博客
08-28 3699
错误记录 (误用 rmdir /s /q .) 起因 今天早上突然想起了,几个月前看到的关于rm -r -f / = 删除根目录下的垃圾(rubbish)文件(file)的笑话,结果中午吃完饭准备删除vsc的垃圾文件时就犯了一个大错. 我想删除C:\Users\Dell\AppData\Roaming\Code\User\workspaceStorage下的所有文件夹,需要先cd到文件夹下,之后rmdir /s /q .命令行应该显示另一个程序正在使用此文件，进程无法访问。 但我实际的操作是(开始在D盘)
windows 使用everything 查看文件(夹)存储空间占用
agctXY的博客
02-22 2858
震惊! xp 不过我是真的挺震惊的.
Win32 串口 API
agctXY的博客
01-14 2746
Win32 串口API 起因 开始玩stm32f103rct6,可是那个过程真是够烦,isp软件是一个GUI程序,每一次都需要点,一点都不符合程序员的需求,虽然github上应该会有命令行版本的isp程序.但是还是想着自己有时间可以做一下.以前还不知道Windows有这种API(以前也没太碰过硬件,因为穷).于是,开始看文章. 经过 了解了一下ISP,全称是 in-system programming,好像意思是,芯片已经焊到板子上之后,留一个串口出来,之后,如果需要修改程序,可以直接从这里重新写入程序
Invalid or Damaged Bootable Partition 虚惊一场
agctXY的博客
06-28 2594
Invalid or Damaged Bootable Partition 虚惊一场 起因 早上去实验室做实验,带着U盘,要靠实验数据. 经过 有一次无法连接到对象,然后我就重启matlab,还是不行,我就重启电脑,关机,然后再开机,但是这时电脑黑屏,并且有Invalid or Damaged Bootable Partition字样,我真的吓傻了,关机再开机,还是这样,没办法,硬着头皮去问老师吧.老师先拔掉了U盘,然后断掉电源,再打开电源,接着开启电脑的时候,电脑正常开机了. 结果 于是我就继续做试验了.
求解高阶多项式方程的数值方法--octave roots.m源码学习
agctXY的博客
12-26 2324
起因 前一阵子(几个月前)在学习根轨迹方程,想要写出画根轨迹的代码,却无论如何都画不出来.因为教材上的根轨迹的法则是用来直到人类的,而不是直到机器画的.但是matlab却可以画根轨迹. 前一阵子,看到一篇关于分布式3D无人机编队的论文中用到了SVD,半定规划的问题,其中求SVD需要用到求特征值的数值解法.无奈的是,线性代数当初根本就没有学懂,现在都还给老师了. 前一阵子要学图像处理,小波变换,但是我不想用matlab,自己的代码能力又没那么强,只能写出dct,并参照oiwiki的fft算法和蝴蝶变换翻译成
补码乘法
agctXY的博客
09-23 2062
补码乘法 (写的很乱,很杂,反正也没有人看 :>,就不讲究了) 起因 昨天嵌入式系统课上,老师专门讲了,补码的一系列运算.可是我没有听懂补码乘法相关的内容(补偿法?),所以自己再推一下. 前提 在不溢出的前提下,补码所表示的数可以进行正确的左移运算,并且,左移等价于乘2 补码的加法可以通过溢出保证结果的正确性,(无论对于有符号数还是无符号数) 由(1)(2)知当第二个乘数为正时,无论第一个乘数的正负号,都可以保证结果的正确性(不溢出的情况下),因为运算相当于左移和加的结合. 当第二个乘数为负数时
矩阵乘向量求导推导
agctXY的博客
07-01 1647
矩阵乘向量求导推导 起因 我想玩RNN,但不知道如何对矩阵乘向量进行求导. 经过 推了一会,我会了. 设Ab=cAb=cAb=c 展开写[a11a12⋯a1na21a22⋯a2n⋮⋮⋱⋮an1an2⋯ann][b1b2⋮bn]=[c1c2⋮cn]\begin{bmatrix} a_{11}&a_{12}&\cdots&a_{1n}\\ a_{21}&a_{22}&\cdots&a_{2n}\\ \vdots&\vdots&\ddots&
7z -m 的参数
agctXY的博客
01-21 1527
7z -m 的参数 起因 几天又有一个文件需要解压,然后,我就解压了,然而,文件名有时乱码,看起来非常的不爽,于是使用7z的一个参数-mcp=936,也就是把解压使用的编码设置为和压缩式相同的gbk编码,奈何我记不清是哪个了.于是就先是7z --help,不行,没有找到,然后就是上网搜,搜来搜去没有搜到,找到7z的官方网站看文档也没有这个参数,知道我再一次找到了上次找到过的网站.于是成功了,不过这总让人很难受.竟然在文档上找不到,就好像是找到了什么偏方一样,不是特别心安! 经过 开始到各种地方搜索-mcp参
javascript 保存文件(弹出保存窗口)
agctXY的博客
05-31 1375
javascript 保存文件(弹出保存窗口) 起因 想要做一个mission planner的,支持多路线和导入导出的web程序,但是导出时遇到了问题 经过 最后在stackoverflow上找到了答案. 结果 Created with Raphaël 2.3.0开始创建<a></a><a></a>.download=文件名<a></a>.href=<dataURL><a></a>.click()结
bison rule useless in grammar
agctXY的博客
05-26 1284
Bison warning: noterminal useless in grammar [-Wother] 起因 看了bison的文档example的那一部分所以想要凭记忆写一个简单的计算器,于是有了如下代码 %{ #include <stdio.h> #include <ctype.h> #include <math.h> #include <stdlib.h> int yylex (void); void yyerror (char const *);
windows batch 传递所有参数.
agctXY的博客
07-27 1270
windows batch 传递所有参数. 起因 想要传递所有参数就像linux里的$*一样. 经过 找到了这个stackoverflow 结果 果然找到了%*
音符和频率的对应关系计算
agctXY的博客
04-01 1270
音符和频率的对应关系计算 在这里看到的,可以直接进去看,我只是把它的代码改好了 不过对我来说真的挺震惊的,不久前我一个一个手敲频率到小数点后10位,然后还自鸣得意,现在才发现自己有多傻:>. #include <bits/stdc++.h> using namespace std; typedef long long ll; double midi[127]; int main(){ float a=440; for(int x=0;x<127;++x){
MATLAB基础教程：矩阵操作与语法解析
"这篇文档主要介绍了MATLAB的基本矩阵操作方法，包括创建特殊矩阵如全0矩阵、全1矩阵、均匀分布随机矩阵以及正态分布随机矩阵，并简要提及了MATLAB的基本语法，如变量赋值、注释、数据格式设置以及一些基本的数学...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值