单词one-hot 编码 理解

每个单词与一个唯一的整数索引相关联， 然后将这个整数索引 i 转换为长度为N的二进制向量（N是词表大小），这个向量只有第 i 个元 素是 1，其余元素都为 0。

用 python 实现单词级的 one-hot 编码

重要理解

samples = ['The cat sat on the mat.', 'The dog ate my homework.']
results = np.zeros(shape=(len(samples),max_length,max(token_index.values()) + 1))
results[i, j, index] = 1.

samples 按单词划分后是 2 行 max_length 列的，也就对应的是results的i行 j列。

第三维中 ， 词表大小为 max(token_index.values()) + 1)且 第index 位置 1

用 Keras 实现单词级的 one-hot 编码

上面的分词与构建单词索引的过程 函数化