- 博客(111)
- 资源 (3)
- 收藏
- 关注
RSS订阅原创 【python】filter(None,)
fillter()：python中的过滤函数，可以用借助None，用filter()过滤掉False的值。
2022-12-29 23:32:05
38
原创 【论文分享】AF2:Highly accurate protein structure prediction with AlphaFold
以AlphaFold的论文原文“Highly accurate protein structure prediction with AlphaFold”为主题，结合openfold，esmfold等多个结构预测算法，进行蛋白质三维结构预测的算法细节以及模型训练过程。
2022-12-13 17:19:04
530
原创 【论文阅读】SensiMix: Sensitivity-Aware 8-bit index & 1-bit value mixed precision quantization for BERT co
SensiMix: Sensitivity-Aware 8-bit index & 1-bit value mixed precision quantization for BERT compression
2022-12-05 16:28:21
34
1
转载 win10系统删除文件提示需要S-1-5-21.../XXX权限才能对此文件进行操作
win10系统需要S-1-5-21权限/XXX权限才能操作文件
2022-12-05 12:06:55
296
原创 【Error】TypeError: expected str, bytes or os.PathLike object, not int/pip install失败/pip版本升级
TypeError: expected str, bytes or os.PathLike object, not int/pip install失败/pip版本升级
2022-11-09 12:53:39
368
原创 【论文阅读】MINILM: Deep Self-Attention Distillation for Task-Agnostic Compression of Pre-Trained Transfor
蒸馏teacher模型最后一层Transformer的自注意力模块、引入助教模型提升蒸馏效果
2022-11-04 10:38:09
64
1
原创 【论文阅读】From Dense to Sparse: Contrastive Pruning for Better Pre-trained Language Model Compression
CAP在剪枝模型中同时保持了任务不确定和任务相关的知识，有助于缓解灾难性问题，并在剪枝过程中保持模型的性能，特别是在高稀疏度的情况下。CAP基于对比学习，被证明是一种强大的表征学习技术。
2022-09-25 17:54:51
264
2
原创 【论文阅读】Structured Pruning Learns Compact and Accurate Models
作者提出的结构化剪枝方法CoFi在几乎没有太多精度损失的情况下，达到了10倍以上的加速比。同时，和常规的蒸馏做法相比，避免使用大量无标签数据预训练模型而导致训练成本过高的问题。
2022-09-23 23:13:45
387
2
原创 【论文分享】A White Paper on Neural Network Quantization【4、5】QAT部分和总结讨论
A White Paper on Neural Network Quantization【4、5】QAT部分和总结讨论
2022-09-16 11:49:10
715
原创 【论文分享】A White Paper on Neural Network Quantization【3】PTQ部分
A White Paper on Neural Network Quantization【3】PTQ训练后量化
2022-09-16 11:36:52
164
原创 OSError: /usr/local/lib/python3.7/dist-packages/torchtext/_torchtext.so: undefined symbol: _ZNK3c10
在Colab上跑模型报错，其中torch版本1.7。OSError: /usr/local/lib/python3.7/dist-packages/torchtext/_torchtext.so: undefined symbol: _ZNK3c104Type14isSubtypeOfExtESt10shared_ptrIS0_EPSo
2022-08-22 16:42:00
1515
原创 【Error】 RuntimeError: output with shape [1, 96, 96] doesn‘t match the broadcast shape [3, 96, 96]
灰度图像应该输出通道3的图像，但是原来的数据是灰度图像只有1个通道，且上面的transforms.Normalize 却对三个通道都归一化了。
2022-08-19 23:07:02
132
原创 【PyTorch】深度学习实践之RNN高级篇—实现分类
深度学习实践之RNN高级篇—实现分类,RNN分类器，双向LSTM，kaggle赛题电影评论情感分析。
2022-08-19 14:14:28
1539
原创 【PyTorch】深度学习实践之 RNN基础篇——实现RNN
深度学习实践之 RNN基础篇——实现RNN，one-hot向量、LSTM，GRU
2022-08-19 11:38:03
1582
4
原创 【PyTorch】深度学习实践之CNN高级篇——实现复杂网络
深度学习实践之CNN高级篇——实现复杂网络,卷积解释,GoogleNet,Resudual Block,DenseNet
2022-08-19 11:23:38
816
原创 【PyTorch】深度学习实践之 用Softmax和CrossEntroyLoss解决多分类问题（Minst数据集）
用Softmax和CrossEntroyLoss解决多分类问题（Minst数据集）,kaggle赛题商品分类
2022-08-18 23:34:02
630
1
原创 【PyTorch】深度学习实践之 加载数据集Dataset and Dataloader
加载数据集Dataset and Dataloader，解释Epoch，Batch-Size，Iterations，kaggle泰坦尼克赛题。
2022-08-18 23:24:29
267
原创 【PyTorch】深度学习实践之多维度输入Multiple Dimension Input
多维度输入Multiple Dimension Input
2022-08-18 23:16:24
513
原创 【PyTorch】深度学习实践之 逻辑斯蒂回归 Logistic Regression
PyTorch深度学习实践之 逻辑斯蒂回归 Logistic Regression
2022-08-18 23:08:30
86
原创 【PyTorch】深度学习实践之 用PyTorch实现线性回归 Linear Regression with Pytorch
PyTorch实现线性回归
2022-08-18 23:02:27
137
原创 【PyTorch】深度学习实践之 梯度下降Gradient Descent
PyTorch深度学习实践之 梯度下降Gradient Descent，随机梯度下降，鞍点
2022-08-18 17:04:07
154
原创 【Error】 ‘lengths‘ argument should be a 1D CPU int64 tensor, but got 1D cuda:0 Long tensor
RuntimeError: 'lengths' argument should be a 1D CPU int64 tensor, but got 1D cuda:0 Long tensor
2022-08-17 11:52:50
277
原创 【论文阅读】I-BERT: Integer-only BERT Quantization
I-BERT提出近似非线性函数的方法，实现全整数推理，推理速度比FP32提高了2.4 ~ 4.0倍
2022-07-28 11:42:45
249
原创 【论文阅读】Q-BERT: Hessian Based Ultra Low Precision Quantization of BERT
Q-BERT提出Hessian信息的混合精度量化和组量化， 达到了 13 倍的权重压缩率，激活大小和嵌入大小仅为原来的 1/4，且准确率损失在 2.3% 以内。
2022-07-28 11:15:08
193
1
原创 安装NCCL\mpirun\horovod\nvidia-tensorflow(3090Ti)
3090系列tensorflow1.x版本安装nccl、horovod、mpirun
2022-07-24 21:44:56
1250
原创 【Error】Python3.6 解决reload(sys) NameError: name ‘reload‘ is not defined 报错问题
python2编写的程序中常常有以下语句，用于将编码格式设置为utf-8。
2022-07-23 15:43:37
213
原创 【TensorFlow】检测TensorFlow GPU是否可用
前提pipinstalltensorflow-gpu==1.14已经成功，检测是否可以使用gpu
2022-07-23 12:05:24
1265
2
同学录系统javaweb期末项目.zip
2022-01-03
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人