《动手学深度学习》pytorch版笔记
与其说是笔记,不如说是问题集,有些已经搞清楚了,记录一下。有些还没搞清楚,先列在这里,以后有空再慢慢查文档填坑。
Task 1
线性回归
1.向量化运算以及矩阵的维度表示
2.torch.randn(),np.random.normal()等随机数组生成函数
3.tensor与list等相互转化
4.matploblib库
5.torch.view()
6.tensor.item()
7.Dataset, DataLoder两个类的用法
8.nn.Linear
Softmax与分类模型
1.d2lzh1981库
2.自定义数据集的读取
3.d2l.use_svg_display()
4.d2l.load_data_fashion_mnist()
5.print(X.sum(dim=0, keepdim=True)) # dim为0,按照相同的列求和,并在结果中保留列特征
6.tensor.gather()
7.argmax()
8.nn.FlattenLayer
多层感知机
1.plt.plot(x_vals.detach().numpy(), y_vals.detach().numpy())
2.d2l.FlattenLayer()
3.torch.optim模块
Task 2
文本预处理
1.re lines = [re.sub(’[^a-z]+’, ’ ', line.strip().lower()) for line in f]
2.特殊符号的处理padding, begin of sentence, end of sentence, unknown等
语言模型
1.corpus_chars = corpus_chars.replace(’\n’, ’ ‘).replace(’\r’, ’ ')
2.一个batch里包括bs*num_step个单词
3.相邻采样中的每错开一个单词取num_step个词而非错开num_step个词
循环神经网络基础
1.d2l_jay9460
2.result.scatter_(1, x.long().view(-1, 1), 1)
3.one()
4.s.detach()
5.torch.cat()
6.torch.flatten()
7.torch.stack()