qq_43427457-CSDN博客

原创球面高斯函数可视化

参考了这篇博客园文章。

2024-05-30 21:28:27 178

原创 Pytorch-lightning+Default Checkpoint+Hydra+Tensorboard实践

在深度学习实践中，如何构建一个系统往往需要阅读大量的开源项目、自己总结经验。这里根据我的习惯，总结了常用框架和工具链的使用逻辑。也可搜索Havard CS197系统学习。

2023-06-15 15:00:29 1002 2

原创 Pytorch 显存机制 (以及为什么 x=x+1没有显存增长)

我在训练模型时，用了一个标准CrossAttn处理（N，512，200，200）的矩阵，发现每次仅仅计算attention就会把12G的显存挤爆。后边我把head缩减为1，attn的embed_dim设为16，仍然一次会申请11G左右的资源，仍然会爆炸（这些还没算优化时的继续增长）。ViT的改进也就是在于，把224*224的图片分成16*16的patch，每个patch当作一个word做pooling。例如transpose这种只改变了tensor元数据，不影响内存的操作，是不会缓存的。

2023-04-01 15:44:25 284

原创【调试/踩坑】Cannot assign module before Module.init() call

pytorch调试

2023-03-31 15:25:15 217

原创 Windows和windows系统之间共享文件夹和凭据设置

windows share

2023-02-06 17:57:02 2075

原创 Neo4j create 创建重复节点问题

neo4j重复节点问题

2023-01-03 23:38:04 1086

原创 mamba环境管理和安装包的细节(含conda/pip区分)

mamba用法，torch winerror 126

2023-01-02 19:31:49 13409

原创 opencv史诗级大坑-图像坐标系碰上投影变换

opencvIPMbev

2022-12-14 11:05:53 452

原创 GIT命令

git tag 采坑

2022-11-02 12:36:17 480

原创 Ubuntu 安装 nvidia 驱动

nvidia 驱动安装

2022-10-21 13:50:47 221

原创 cuda多流编程思考

cuda 编程

2022-10-18 12:01:52 335

原创 pytorch-lightning device管理和 Lightning Modules的嵌套

pl device

2022-10-13 15:21:23 740 1

原创 vscode ssh，docker中的python代码补全

vscode配置环境

2022-10-11 17:51:24 885 1

原创 pcl自定义点云类型发生undefined reference to ‘pcl::PCLBase...’错误

第一反应是链接写错了，没找到库文件，但是makefile折腾半天还是不对。在PCL显示自定义点云类型报错 undefined reference to `pcl::visualization::PointCloudGeometryHandlerXYZ＜MyPointType＞_山海里啊有星辰的博客-CSDN博客三受这篇博客启发，链接错误不代表没找到库文件，其实就代表没找到定义。类似于header-only lib的情况，还有可能是没找到头文件引起的。遂去pcl头文件下搜索pcl::PCLBas...

2022-05-30 20:00:36 2716 5

qq_43427457的博客