- 博客(465)
- 资源 (15)
- 问答 (9)
- 收藏
- 关注
原创 (快速搞懂)Pytorch中的nan和inf有什么区别?
inf是一个数字,表示正无穷大,相应的,有-inf。由于是数字,所以可以和其他数字比较大小。产生原因:数字太大,计算机无法表示。我们发现,有的时候,我们使用torch计算一通之后,有的时候得到的是nan,有的时候得到的inf,这是什么鬼?开门见山,nan不是一个数字,因此没有正负概念,和其他数字比较也没有意义。注意:nan由于不是数字,因此任何后续数学运算都会是nan。注意,其是一个数字,因此,可以作为一个数字继续参与后续运算。成功,大家可以试一试,如果b为nan是无法参加后续运算的。
2023-01-01 17:31:11
390
原创 load_ext是干什么的(autotime,autoreload)
比如我们有一个自己写的utils包,在jupyter的开头import了,后来,我们在jupyter中运行之后发现有utils中的某个函数有bug,然后我们纠正了那个函数,重新在jupyter中运行。我觉得可能是因为我们现在的背景是IPython,而不是Python,这两者有一定的差别。这个时候,按照道理,仍然是会报错的,因为jupyter不会帮你自动刷新utils这个包。作用:这个扩展autotime的作用就是,给出每一个单元格运行所花费的时间。注意,上面那一行不要写注释,否则报错,写注释要换一行。
2022-12-21 16:45:37
252
原创 (完全解决)FutureWarning: Non-finite norm encountered in torch.nn.utils.clip_grad_norm_
一定要使用那种饱和类型的损失,例如你希望模型二分类,loss不应该设置为,对于类别1,希望模型输出为正无穷大,对于类别0,希望模型输出为负无穷大,这样loss不会饱和,模型会一直训练下去,很容易nan。应该改为,对模型输出的结果,加一层sigmoid,从而对于类别1,希望模型输出为1,对于类别0,模型输出为0。而对于sigmoid这种饱和函数,输出为1,输入不需要是正无穷大,6,7,8这种数字就可以差不多输出为1了。这就导致,在输出可以做到为0的情况下,我log之后就会nan。
2022-12-18 10:55:37
254
原创 (入门以及简介+实战)超参数寻找器hyperopt库中常见的函数或类的作用
用来找超参数的,我们常常用的是格子搜索以及贪婪搜索对不对。它这个库有着更多的策略。一个例子好了,上面引入了3个函数,fmin, tpe, hp。其中hp用来指定参数空间,比如hp.uniform(‘x’, -10, 10),其表示我们有一个参数x,其可能取值在-10到10之间,并且是均匀分布。tpe则是用来指定我们的搜索策略,比如可能是格子搜索之类的。max_evals=100则表示,由于我们的参数x取值连续,不可能说取遍所有值,所以尝试了100次不同的x值之后就结束。然后再说fn这个参数,上面是一个
2022-12-05 16:07:48
255
原创 (有什么区别)Python中return self和return None或者return或者不写
主要是return self是什么鬼,一般很少见,但是这次见到了,所以想搞懂一下,其有什么用,如下:我的感觉是好像没有什么用。首先,return None或者return或者不写作用应该是一样的,就是什么也不返回,也就是返回为空。
2022-11-18 16:02:50
219
原创 (简单搞懂)from abc import ABC,abstractmethod是什么意思
基础不是很好,很少关注这些基础的东西,这次项目有人用了,不得不搞懂一下了。
2022-11-18 11:28:16
487
原创 (完全解决)Your compiler (c++) is not compatible with the compiler Pytorch was built with for this platfo
服务器上安装了一个包,然后这个包好像顺便把一些其他包给更新了,然后在远程连接服务器的时候就出现了问题。!!!!!!
2022-11-16 19:13:59
697
原创 (完全解决)下载包的时候An unexpected error has occurred. Conda has prepared the above report
可以看到,404问题,而且是从镜像源那里出的问题。这里希望你对号入错,因为网上一些回答里面,虽然错误结尾也是我标题那样,但是错误开头并不是镜像源导致的,那么本篇可能就不适用。今天下载一个包,莫名奇妙就报了上述错误。这个错误特别长,下面列举了该错误的开始部分,标题则是结尾部分。既然镜像源出了问题,那么就将其删除即可。在当前目录下,有一个隐藏文件,名字叫做。删除了这个之后,就会使用conda默认的镜像源,国内可能会比较慢。话说为什么镜像源会出问题呢?看到了之后,将其删除即可。
2022-11-16 11:26:26
191
原创 (完全理解)二重积分中的换元积分中的雅可比矩阵
我们知道,在二重积分中,换元积分如下:但是很多人并不知道为什么是这样,所以一直记不住换元积分的公式。
2022-11-10 11:36:17
418
原创 信号与线性系统分析(吴大正,郭宝龙)(5-系统定义与典型系统)
我发现,信号与系统中有一些东西真的是反复会在别的工科专业中用到,所以在这里记录一下,虽然有视频,但是视频毕竟比较长,想要快速回顾,需要从头看视频,所以这里记录一下比较关键的东西。信号与线性系统分析(吴大正,郭宝龙)。上面这个很好理解这个(2系统模型)不是很好理解,和物理比较相关,这里跳过。我们看3。系统的状态,这里解释一下,根据上一张图,我们很容易会认为系统就是一个函数而已,将输入映射为输出。
2022-11-09 15:29:10
150
原创 (完全解决)为什么二阶行列式的绝对值为面积
以前隐隐约约就记得二阶行列式为面积,却一直忘了怎么来的了。现在重新翻看证明,并且纠正一个小错误,即二阶行列式的绝对值为面积,而不是二阶行列式为面积。我们下面就要证明这个结论。比如上图,两个向量,他们围成一个平行四边形,其面积就是行列式的绝对值。
2022-11-08 19:06:31
118
原创 信号与线性系统分析(吴大正,郭宝龙)(3-单位脉冲/阶跃序列以及4-信号的运算)
我发现,信号与系统中有一些东西真的是反复会在别的工科专业中用到,所以在这里记录一下,虽然有视频,但是视频毕竟比较长,想要快速回顾,需要从头看视频,所以这里记录一下比较关键的东西。信号与线性系统分析(吴大正,郭宝龙)。
2022-11-08 14:51:21
66
原创 信号与线性系统分析(吴大正,郭宝龙)(2-冲激函数)
我发现,信号与系统中有一些东西真的是反复会在别的工科专业中用到,所以在这里记录一下,虽然有视频,但是视频毕竟比较长,想要快速回顾,需要从头看视频,所以这里记录一下比较关键的东西。信号与线性系统分析(吴大正,郭宝龙)。对于任意ϕ(t)\phi(t)ϕ(t),如果δ(t)\delta(t)δ(t)满足如下式子,那么δ(t)\delta(t)δ(t)称之为冲激函数。这就是冲激函数的广义函数定义。满足上述要求的δ(t)\delta(t)δ(t)
2022-11-08 10:39:18
293
原创 切比雪夫多项式
切比雪夫是俄国超级有名的,土生土长的数学家,其比较出名的贡献有:切比雪夫多项式和切比雪夫大数定律。本文说切比雪夫多项式。切比雪夫多项式。
2022-11-07 11:30:47
681
原创 信号与线性系统分析(吴大正,郭宝龙)(信号的分类)
我发现,信号与系统中有一些东西真的是反复会在别的工科专业中用到,所以在这里记录一下,虽然有视频,但是视频毕竟比较长,想要快速回顾,需要从头看视频,所以这里记录一下比较关键的东西。信号与线性系统分析(吴大正,郭宝龙)。
2022-11-06 15:37:53
289
原创 (简单介绍)PageRank算法
这个是一个经典算法,还是有必要了解的,这里由于讲得不会很详细,所以要求你有一点数学知识,如果有,看完这篇就大概明白PageRank是个啥了。本篇不涉及证明之类的,而是主要搞清楚背景以及怎么做。PageRank算法。
2022-11-06 10:13:06
121
原创 (完全解决)pycharm运行或者调试项目的时候报错:test setup failed
今天莫名奇妙碰见这个错误,源于:我打开了一个项目,然后直接右键,debug。我直接一脸懵逼,我只是想运行一个程序而已,你这么对我?然后可以看到这个Python tests,万恶之源。选择好文件后,直接点击应用,再点击OK。此时就可以右键DEBUG或者RUN了。然后找到我们要运行的程序文件。
2022-11-04 20:10:22
700
1
原创 (Pytorch)简单了解torch.autograd.grad()以及torch.autograd.backward()
这个时候,我们就可以用上grad_outputs,这个东西就会充当dz/dy的作用,那么我门只需要求解dy/dx即可,然后相乘,(dz/dy)*(dy/dx)=dz/dx,就得到了我们最终想要的。看起来平平无奇对不对,但是,计算谁对谁的梯度, 通过这个函数,你可以自由控制啦。然后,我们再说一下其中的参数grad_outputs,其他的比如retain_graph我们就不说了,这个东西我早在其他文章说过,属于必修内容。y和dzdy需要形状相同,这其实本来就一定要啊,对y的导数和y的数量当然是一样的。
2022-11-01 20:11:11
554
原创 概率密度分布(distribution)的均值(期望)(mean)和中值中位数(median)
一开始看到the median of this distribution的时候,人是懵逼的,我这么孤陋寡闻吗?分布竟然还有中值?不是只有期望吗?
2022-10-31 15:45:33
1246
原创 (完全解决)Python中pip如何安装github上的一个包
并不是github上面的每一个项目都能叫做一个包,一般来说,包的标识:项目的目录下有setup.py文件。为什么不直接pip install 包名?反而要提到github。这是因为有的包可能是个人开发的,过于小众,没有被收录到python的官方源中,所以pip install 包名根本找不到这个包。
2022-10-23 20:42:45
2188
原创 (完全解决)argparse中dest是什么意思
上面的#行中,引号里面的,都是。官方还继续区分,'-‘开头的叫做short option string,’–'开头的叫做long option string。好了,然后再翻译一下官方,即dest你不写,也是有默认值的,例如#1,默认值是foo_bar,#2中默认值是x。这个时候,你在看例子,发现在例子中foo只是一个幌子,bar才是真正的属性名大佬。不过,我还是决定带你看一看。但是传递完了之后,属性只能是。
2022-10-23 11:35:03
195
原创 (一分钟)简单介绍MLFLOW
MLFLOW有很多功能,但是大家来找的应该是指其记录(追踪)超参数的功能。本文也只是简单说说这个,让你有一个大致了解。
2022-10-23 10:52:07
702
原创 python类的一些关键笔记
注意,本文只适合学过面向对象编程的看,用于温故知新的,而不是新手。新手想要系统自学python,可以移步B站,本文也来自。
2022-10-21 20:24:42
125
原创 简单介绍ogb包(open graph benchmark)(图神经网络的基准数据集)
Open Graph Benchmark (OGB) 是一个图深度学习的基准数据集。
2022-10-20 11:27:38
499
转载 logistic function 和 sigmoid function的区别
大家都习惯把standard logistic function(即公式)称为sigmoid function,因此在没有特殊说明的情况下,文献资料或老师讲课中提到的‘sigmoid function’都是指公式对应的函数。满足公式的形式的函数都是logistic function。只要曲线是 “S”形的函数都是sigmoid function;两者的相同点是: 函数曲线都是“S”形。
2022-10-15 11:08:27
62
原创 (Pytorch)如何指定维度地判断两个tensor是否相同
的二维矩阵,我们要判断a,b是否行向量对应相同,返回两个bool值。那么true表示两个对象行向量不相等,false表示相等。但是,现在我们的场景不一样了,例如:a,b都是相同形状。这个时候该怎么办呢?
2022-10-10 14:49:33
745
原创 (Pytorch)nn.Dropout以及Dropout1d,Dropout2d,Dropout3d是什么意思
其实nn.Dropout并不是Dropout1d,Dropout2d,Dropout3d中任何一个的特例,他们应用场景并不相同,不是相互包含的关系。
2022-10-09 15:22:14
690
原创 Pytorch中Dataset的__getitem__()返回值应该怎么写
确实,功能上是等价的,但是有的时候,当你返回的东西特别多并且各部分功能不一样的时候,上面分组就会很方便。并且,我们dataloader返回的结果,也将会是分组的,非常之方便。,那么dataloader返回的结果也会是嵌套的,反正不会乱掉。经过这次,确实更加了解了dataloader的强大的组织为批的能力。我以前还实现过collate_fn,现在看来,无法处理多组以及嵌套的情况,今天发现,原来可以返回多组,太自由了。甚至:还可以更加复杂的,例如嵌套,后来发现,原来一组不一定是由。组成,可以是任意的,例如。
2022-10-09 11:24:33
507
原创 RuntimeError: cuDNN error: CUDNN_STATUS_INTERNAL_ERROR
默认,实际的显卡号就是程序看到的显卡号,程序总是要放一点到0号去,那么我们就是更改程序看到的显卡号,比如将实际显卡号为1号的显卡映射为0号,这样就好了。我发现有的代码会默认将一部分东西放到0号显卡去(暂时没搞懂什么样的代码会,现在运行的是别人的项目),即时我看到其已经指定了将数据放在其他显卡。报错就这一句话,没有多余的报错信息,有的人的回答是针对其他情况的,所以,你自己对号入座决定是否看下去。这样的话,实际1号显卡,对你的程序来说就是0号,2号就是1号,。这个时候,由于0号显卡满了,就会报上述错误。
2022-10-06 11:14:00
391
转载 stochastic matrix,doubly-stochastic matrix (bistochastic matrix)
有些地方定义bistochastic matrix:the rows and columns of the matrix A sum to 1.(若矩阵A的行和与列和均为1,则A为bistochastic)如果在是stochastic矩阵的基础上,每列的和也均为1,那么此矩阵为 doubly stochastic。一个最简单的双随机矩阵例子是一个每项均为 1/n 的 n x n矩阵。如果一个方阵P的每一项均为非负的并且每行的和均为1,则称其为随机矩阵stochastic;
2022-10-04 11:06:37
40
原创 使用sklearn进行kmeans实战
很多人写得太复杂了,更多人谈到sklearn的时候,早就知道了kmeas的原理,只是想快速上手而已。我们知道,kmeans是无监督,没有标签。6个数据点,每一个点是二维的。我们使用kmeas进行聚类。是不是很简单,核心已经说完了。...
2022-08-15 16:41:24
668
原创 (完美解决)linux删除一个有特殊字符的文件
貌似有点麻烦哈,其实也没有办法,毕竟有些特殊字符会对命令造成影响,上面是不受影响的。一些特殊的字符的确有更快的处理方式,一步解决,但是上面那个两步却更加通用。网上有很多方法,但是有些方法只针对某些特殊字符,对其他特殊字符无能为力。然后我们可以看到,要删除的文件前面有一个编号,假设是123。这里,提供一种万能的方法。1.进入该文件所在的目录。...
2022-08-01 19:47:28
646
原创 (完美解决)为什么在train/val/test数据集上用train模式效果都很好,但是在eval模式下全部很差
因此,一个简单的对比就是,你在你的模型训练了好几轮,觉得效果不错了之后,停下来,选择几个训练集数据,比如5个,分别在train模式和eval模式下,打印他们输入,中间层以及结尾的结果,这个你自己看着办即可。在train模式下好,eval模式下差,我们可以理解为train模式下,最后一层得到的那一堆向量好,eval得到的那一堆向量差,从而逐步往前推。不管怎么说吧,首先引人注目的就是,我的4个数据,输入的均值和方差都特别不一样,尤其是方差,3万多的方差,吓死。成功了,同时发现,归一化之后训练得很快!...
2022-07-26 15:28:28
629
原创 (实用简单版)latex如何书写算法algorithm
看过很多使用latex写算法的,都感觉好复杂,导入的包就20,30个。这次我们使用包,感觉这个好用。在导入包的地方导入上面这个东西。这个例子包含了,写算法常常用到的:如下:效果图如下:...
2022-07-11 11:18:42
2804
原创 python中的counter类
这个类实在是太常用了,所以记录一下。这个类是用来计数的,统计一个列表中的元素各自出现了多少次。我们的流程是,先传入列表构造类,然后使用类的方法,得到我们想要的信息。结果如下:其表示,3出现了2次,其余都是1次。用于显示次数最多的n个元素,...
2022-07-09 19:30:46
251
原创 matplotlib如何设置xlabel以及ylabel的位置和大小
设置这两者都差不多,所以我们举一个例子就行,以ylabel为例。我们知道默认情况下,对于ylabel,其总是显示在y轴的中间,这个通常是没有问题的。但是,有的时候,我们的y轴分成了两部分,y轴的上半部分是另外一个图,这个时候,我们将下面这个图的ylabel放在中间就不合适了,应该放低一点。如下:这个好麻烦,暂时没有找到更好的办法,下面这个将就着使用吧。...
2022-07-09 16:39:43
3184
原创 matplotlib中两张图如何共用一个x轴,而y轴不一样。
共用一个x轴,而y轴不一样。本文给出两种解决办法,一般情况下,大家指代的可能是第一种。这种办法其实严格来说,并不是共用一个x轴,而是图一使用下面的x轴和左边的y轴,图二使用上面的x轴和右边的y轴。所以,为了将这两个图放在一起,图二的y轴数据需要取负号,这样图二的y轴就会是反的。从而两幅图,图一数据向上增长,图二数据向下增长。这个思路很简单,就是将图1画在y轴的正半轴,图2画在y轴的负半轴。缺点是由于是同一个y轴,从而两者的刻度比例是一样的。从而,如果图1的数据是非常大,图2的数据非常小,那么画出来的图就很
2022-07-09 15:15:11
947
原创 matplotlib绘图润色(如何形成高质量的图,例如设如何置字体等)
本来,如果只是你自己画图然后自己一个人偷着看看,一般是没有这个需求的,直接默认就好了。然而,如果你要把这个图印刷出版,或者放在论文中,或者放在PPT中展示。你会发现,默认的图不太行。比如放在论文中,如果默认的话,里面的字体会特别模糊。分辨率在开头加上下面这句,可以使得你的图片不会模糊。样式样式包括很多方便,字体大小,字体格式等。1.先说一个全局改变的,也就是说开头加上,然后全局有效,很方便。2.然后再局部改变的。参考1.https://blog.csdn.net/weixin_38468077
2022-07-03 16:47:04
149
catsdogs.rar
2021-07-04
chinese_L-12_H-768_A-12.rar
2021-06-26
acl-ijcnlp2021-templates.zip
2021-03-20
Points-to analysis in almost linear time
2020-12-11
计算机视觉中亮度,对比度等是如何体现的?
2021-12-19
skip-gram的问题
2021-07-10
transformers
2021-06-25
如何打开latex制作的幻灯片?
2021-04-17
如何在电脑上像平板电脑那样写字
2021-04-05
遇到一个非常奇怪的问题,这个交叉熵损失函数两个参数到底怎么用呢?
2021-04-03
请问对于这样的数据格式,python应当如何读取成dataframe?
2021-03-29
卷积神经网络下面是如何将6变成16通道的
2021-01-10
手机QQ界面点击按钮后,跳转界面是使用fragment还是activity呀
2020-03-25
TA创建的收藏夹 TA关注的收藏夹
TA关注的人