动手学深度学习PyTorch版-第二次打卡

文本预处理；语言模型；循环神经网络基础
文本预处理的一般流程
文本的预处理一般包含四个步骤：

读入文本
分词（两个常用的分词库spacy,nltk）
建立字典，将每一个词映射为独立的索引(index)
将文本从词的序列转为索引的序列,使得输入模型更加的方便
N元语法

两种不同的采样方式
注意采用的时候length要减去1

随机采样
import torch
import random
def data_iter_random(corpus_indices, batch_size, num_steps, device=None):
# 减1是因为对于长度为n的序列，X最多只有包含其中的前n - 1个字符
num_examples = (len(corpus_indices) - 1) // num_steps # 下取整，得到不重叠情况下的样本个数
example_indices = [i * num_steps for i in range(num_examples)] # 每个样本的第一个字符在corpus_indices中的下标
random.shuffle(example_indices)

def _data(i):
    # 返回从i开始的长为num_steps的序列
    return corpus_indices[i: i + num_steps]
if device is None:
    device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')

for i in range(0, num_examples, batch_size):
    # 每次选出batch_size个随机样本
    batch_indices =