- 博客(21)
- 收藏
- 关注
RSS订阅原创 解决设定了随机种子结果无法固定的问题
写torch.cuda.manual_seed(seed)还不够，需要torch.cuda.manual_seed_all(seed)以及一些包在调用时就会调用random，所以随机数最好在。
2024-09-24 19:38:50
211
1
原创 解决one of the variables needed for gradient computation has been modified by an inplace operation
在创建后被修改，而之后它的值在计算梯度时又被使用，从而导致PyTorch无法正确地计算梯度。为了避免这种情况，你应该避免在使用张量的值计算其他的一些值之后，再去修改这个张量的值。这个错误是由于需要梯度反传的tensor在前传和反传时值不一样。最常见的错误是由于x+=1这种写法，改成x=x+1。定义中间变量、clone()创建副本……这段代码中的“原地操作”错误可能是由于。
2024-05-09 20:00:55
209
原创 树形dp解题框架
/to: 第i条边（x，y）的指向y//next: 与x连接的上一条边int cnt=1;//更新与x相连的边为cntcnt++;二、常见考法（洛谷）1. 左孩子右孩子题目要求：给定多叉树T，求T以左孩子右孩子方法变成二叉树的最大高度。其实就是求根节点的子节点个数+最高的子树高度（递推地来看，这个最高地子树高度其实也是它地子节点个数）void dfs(int x)//遍历以x为根节点的树i;i=e[i].next)//这样可以遍历以x为根节点的下一层的所有子节点。
2024-03-26 21:42:02
271
1
原创 linux配置pytorch环境
问题3：CondaError: Downloaded bytes did not match Content-Length。python3进入python，exit()退出。解决方法：pytorch没下载好，重新下载一遍。问题1：nvcc -V报错找不到nvcc。加一句export PATH=……cd /或cd .. 返回根目录。问题2：找不到conda指令。
2024-03-01 15:40:09
477
原创 蓝桥杯 强力党逗志芃 c++实现及讲解
逗志芃励志要成为强力党，所以他将身上所以的技能点都洗掉了重新学技能。现在我们可以了解到，每个技能都有一个前提技能，只有学完了前提技能才能学习当前的技能（有一个最根本的技能不需要前提技能）。学习每个技能要消耗一个技能点，然后可以获得这个技能的威力值。e[ ]数组是存放技能的序号，ne[ ]数组是用来从某棵子树的最右子孩子一直向左遍历所有的子孩子，h[i]是序号为i的技能最右子孩子的编号。分析：本题是一个有依赖的背包问题，可以视作分组背包+01背包+dfs的结合体。
2024-01-08 17:00:55
575
1
原创 torch版本和torchvision、torchaudio、torchtext、pytorch_lightning有关！
在pip install -r requirements.txt的时候注意以上这四个包的版本，如果没有明确指明版本pip就会安装目前最新的包，那么也会连带的安装最新的torch，导致环境出错。
2023-12-26 17:24:01
702
原创 colab踩坑史
4.用colab跑项目的时候路径可能会发生变化，所以会报错。因为路径前面多了/content……1.切换cpu到tpu不在drive中的文件会没有。所以要修改的文件尽量都放drive中。2.每个单元格都对应一个环境，还没搞懂怎么在colab创建虚拟环境。3.每个.ipynb文件互相独立，安装的依赖项不会影响到彼此。
2023-12-25 16:57:02
477
原创 Transformer位置编码代码讲解
dim=1)后维度就是N*D，也就是对每个pos的token的每一个隐藏层维度都进行一个位置编码（其实位置编码要和词嵌入向量做加法来加入位置信息，我们知道词嵌入向量的维度是B*N*D，那么位置编码1*N*D才能做加法）torch.sin(scaled_time), torch.cos(scaled_time)的维度都是N*D/2（N是序列的最长长度，D是hidden_size），所以。(c,d)表示对矩阵的倒数第二个维度做padding操作，在原tensor的左侧pad c个，右侧pad d个。
2023-11-15 20:45:13
246
原创 attention、transformer、bert、beit、vit、mae主要概念及区分
这一周终于开始看论文了，昨晚睡觉前突然觉得论文看得越多越糊涂，在gpt帮助下和网路搜索总结一下以上模型。全是自己的理解，轻喷。
2023-09-27 11:36:32
733
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人