![](https://img-blog.csdnimg.cn/20201014180756925.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
文章平均质量分 51
Challow
这个作者很懒,什么都没留下…
展开
-
vscode中使用slurm集群上计算节点调试程序
通过slurm集群下计算节点调试代码vscode原创 2022-06-20 11:17:17 · 3809 阅读 · 5 评论 -
win10/11下wsl2安装gpu版的pytorch(避坑指南)
wsl下安装gpu版本的pytorch,是教程也是避坑指南~欢迎留言问问题原创 2022-03-27 14:01:57 · 4552 阅读 · 0 评论 -
vscode在debug模式下调试pytorch代码程序
vscode调试pytorch代码教程~原创 2022-03-23 10:26:03 · 3407 阅读 · 0 评论 -
记录一些深度学习中的技巧(持续更新)
可以使用torch.utils.data.random_split()划分数据集,比赛中常用。不需要自己划分了原创 2022-03-08 21:15:11 · 847 阅读 · 0 评论 -
anaconda更换目录后需要更改的文件
1、首先将 anaconda移动/复制 到另一目录下,如~/2、修改~/.bashrc中的所有原路径替换为新路径(可用vim 编辑)3、运行source .bashrc命令4、修改~/anaconda3/etc/profile.d/conda.sh 中的所有原路径替换为新路径5、修改~/anaconda3/bin/conda、~/anaconda3/bin/activate、~/anaconda3/bin/deactivate、~/anaconda3/bin/pip中的所有原路径替换为新路径6、修原创 2022-03-08 12:03:42 · 2079 阅读 · 0 评论 -
非root权限安装cuda,python,pytorch环境(大胆冲)
背景近日因为需要跑程序,拿到了实验室的一个账号权限。登进去之后发现是一个空的环境,python还是2.7,python3是3.5,CUDA的版本是8.0…根本不能做实验本来担心直接安装anaconda和cuda会影响全局环境,后来发现其实没有问题。大胆安装就可以~Aanconda篇错误点切记!不要安装最新版本的anaconda,因为它的python版本太新了是python3.8的。会导致后序安装cuda、pytorch环境出现错误参考博客注意点注意需要关注一下路径可以安装完之后换源原创 2020-10-16 20:47:52 · 890 阅读 · 1 评论 -
Tensorflow无法使用CUDA_VISIBLE_DEVICES参数进行GPU加速
Tensorflow无法使用GPU卡加速问题所在笔者的电脑是笔记本,有一块1050Ti的NVIDIA显卡,遇到两次无法使用GPU的命令来加速程序运行的问题。即使安装正确的NVIDIA驱动,命令语句完整错误有些低级。???? ???? ????图中的是GPU的编号。加速方法经查询发现两种GPU加速的方法第一种:import osos.environ['CUDA_VISIBLE_DEVICES'] = "0"在调用Tensorflow库函数之前设置这条语句,表明要使用GPU0卡来加原创 2020-06-03 22:00:09 · 2839 阅读 · 1 评论 -
学习笔记之Transformer Self-Attention机制
Transformer台大李宏毅教授链接Self-Attention传统RNN不容易平行化,比如b4就得知道a1,a2,a3,a4才能算出来使用CNN可以实现平行化,比如图中的一个黄三角形代表一个filter,他可以并行执行的。在更高层filter的layer可以获取到更长的信息,比如蓝三角形,它的输入时第一层的输出Self-Attention可以替代双向RNN可...原创 2020-01-09 11:54:54 · 3578 阅读 · 0 评论 -
Understanding LSTM Networks
http://colah.github.io/posts/2015-08-Understanding-LSTMs/转载 2020-01-07 21:43:04 · 109 阅读 · 0 评论 -
残差网络的理解(附带参考资料)
残差网络的理解趁热乎~写一下自己现在的理解,以后随着知识的积累补充,咳咳。深层次网络的问题计算资源的消耗模型容易过拟合梯度消失/梯度爆炸问题的产生问题1可以通过GPU集群来解决,对于一个企业资源并不是很大的问题;问题2的过拟合通过采集海量数据,并配合Dropout正则化等方法也可以有效避免;问题3通过Batch Normalization也可以避免。梯度消失/爆炸...原创 2020-01-05 21:45:03 · 749 阅读 · 0 评论 -
学习笔记之Batch Normalization
学习笔记之Batch Normalization本文参考:台大李宏毅老师特征缩放输入值大小不一样会导致出现梯度消失或者爆炸的现象比如x1的是1,2,…,x2的是100,200,…如果x1和x2一样重要(w1,w2一样),那么显然x2对a的结果影响大这样会导致training变的不容易,橫方向上要给较大的learning rate ,纵方向上给较小的learning rate。不容易设置...原创 2020-01-05 18:01:39 · 117 阅读 · 0 评论 -
反向传播的理解
Principles of training multi-layer neural network using backpropagation转载 2020-01-05 11:41:09 · 85 阅读 · 0 评论