Pytorch
Pytorch基础
岸芷汀兰 Pytorch人工智能大模型
Pytorch人工智能架构设计,系统调参,训练模型
展开
-
【已解决 含pytorch 代码调试分析】pytorch 数据类型基础,与Python数据类型的区别,为什么要另外设置新的pytorch 数据类型?
device 就是数值目前所处的设备 上面是cpu,但是我们做训练,是一般需要再gpu cuda上,如果在python,你是没办法直接将数值移动到gpu cuda的,因为python只有数值,没有其他的操作,这就说明,pytorch的数据类型,是专门为大模型训练做准备的,只有理解了数据类型,才能充分知道你能做什么操作。上图的重点,python的int只有数据1,其他的都没有,但是,pytorch的torch.IntTensor,却自带了一堆的属性和操作,其他类型用的少,初学者可以先不用理解。原创 2024-09-18 21:58:01 · 584 阅读 · 0 评论 -
【已解决 含代码调试分析】pytorch的维度,为什么计算loss是0维度的,0维度是是什么?作用是什么?
估计这个有点难,也会导致优化不够全面均衡,所以,在计算loss的时候,我们需要0维度,如果你算出的loss不是0维度,那么就需要转换为0维度,才能实现整体的优化,尔不是沿着某个维度优化,导致整个深度学习网络发生偏差。嘿,你能搜索到这个问题,说明你说一个认真学习的同学,这个问题的细节值得思考。我可以肯定的说,0维度不是空,0维度代表一个数值,的情况,通过上面的运行,得出是存在0维度的,0维度在我们计算loss的时候需要用到。原创 2024-09-18 22:32:28 · 809 阅读 · 0 评论 -
【已解决 含代码调试分析pytorch】torch.nn.Module的load_state_dict函数加载模型的参数字典,加载自定义某个层的weight和bias (3)
有点难度,请仔细看分析嘿,你能搜索到这个问题,说明你说一个认真学习的同学,这个问题的细节值得思考。请仔细看后面的调试界面。原创 2024-09-20 17:56:06 · 288 阅读 · 0 评论 -
【已解决 含代码调试分析】pytorch,torchsummary打印模型参数报错,打印模型结构。设备问题,CPU,cuda,gpu
torchsummary 默认是在cuda上运行,报错的,将device修改为。嘿,你能搜索到这个问题,说明你说一个认真学习的同学,这个问题的细节值得思考。,但是模型权重早CPU,两种没在统一设备上,所以报错。特别注意,上面说的是输入数据在。请仔细看后面的调试界面。原创 2024-09-19 20:58:21 · 346 阅读 · 0 评论 -
【已解决 含代码调试分析】pytorch,tensorboard.add_graph(),example_kwarg_inputs should be a dictError occurs, No
No graph saved,说明没有图被保存,原因是因为我们没有传入数据,模型没有启动计算流,自然就不会输出模型图。input_to_model,这个参数也要传,就是输入一个数据到模型,通过计算后得到模型的结构图。嘿,你能搜索到这个问题,说明你说一个认真学习的同学,这个问题的细节值得思考。input_to_model,也就是输入数据。请仔细看后面的调试界面。原创 2024-09-19 20:25:27 · 261 阅读 · 0 评论 -
【已解决 含代码调试分析】pytorch新手常见错误,文件import出现循环问题,可能是文件命名重复了,ImportError: cannot import name ‘SummaryWriter‘
所以,排查导入路径出错,可以使用查找路径的方式,就是通过按住ctrl+鼠标左键,点击我们想要导入的文件名,看看是链接到哪个文件,如果没有反应,或者链接不正确,就是导入出错了。在项目文件夹中,有一个与tensorboard.py,与要导入的文件是同名的.py文件,导致报错。嘿,你能搜索到这个问题,说明你说一个认真学习的同学,这个问题的细节值得思考。情况,也就是当出现文件导入路径的bug,如何判断,如何解决?我把文件名改了,然后,原创 2024-09-19 20:11:26 · 342 阅读 · 0 评论 -
已解决 Pytorch GPU设备断言问题RuntimeError: CUDA error: device-side assert triggered CUDA kernel errors mi
本质是索引idx越界了,这个错误容易发生在分类任务,类别的输出和模型的输出不匹配,例如模型输出类别为8,但是却索引到9的位置,导致报错。原创 2024-09-17 22:45:32 · 1756 阅读 · 0 评论 -
【岸码头】Visual Studio中解决方法和项目的区别
Visual Studio中,很多新手可能会个疑问,解决方法和项目有什么区别?解决方法:一般包含的项目,毕竟名字是解决方法啊,项目只是解决方案里面的其中一个环节。项目:顾名思义,就是一个相对完整的程序,包含必须的各种代码,并能够顺利编译运行。如果你实在不清楚自己需要建立一个项目还是解决方案,不过大家不必纠结,因为项目建好后,可以放到解决方案中,解决方案也能够扩建新的项目。不过,程序邓建议你优先建立解决方案,毕竟解决方案名字霸气,我们编程,最终的目的是给客户提供解决方案,而不是..原创 2022-03-27 17:48:51 · 980 阅读 · 0 评论 -
【岸码头】程序Visual Studio克隆git无认证错误:authentication failed
【岸码头git安装路径在D 盘,但是Visual Studio克隆git的时候,会检验git的ssl验证,提升无认证文件,因为git默认认证文件在C盘,所以出错。下面是邓在网上找的其中一个的解决办法参考:VS2017 使用GIT时 身份验证失败问题解决方案 - ZED丶D - 博客园打开命令提示符3.重置本机保留的git config 信息。命令如下: 1 git config --system --unset credential.helper原创 2022-03-27 17:25:41 · 752 阅读 · 0 评论 -
【岸码头】tensorflow安装指引和注意事项(一)为什么安装tensorflow的时候,需要安装anaconda?
tensorflow新手安装指引和注意事项(一)为什么安装tensorflow的时候,需要安装anaconda?原创 2022-09-06 22:26:02 · 1142 阅读 · 0 评论 -
tensorflow安装(二):win7如何选择合适的tensorflow版本?
很多新手安装tensorflow,搞了半天都没成功安装,觉得安装很难,这里有一个非常重要的地方需要注意:那就是匹配!整个匹配的思考过程如下:你的电脑操作系统----Python版本----Anaconda版本-----tensorflow版本。原创 2022-09-06 23:01:04 · 1934 阅读 · 1 评论