python词嵌入_Keras—embedding嵌入层的用法详解

最近在工作中进行了NLP的内容，使用的还是Keras中embedding的词嵌入来做的。

Keras中embedding层做一下介绍。

参数如下：

其中参数重点有input_dim,output_dim,非必选参数input_length.

初始化方法参数设置后面会单独总结一下。

demo使用预训练(使用百度百科(word2vec)的语料库)参考

embedding使用的demo参考：

def create_embedding(word_index, num_words, word2vec_model):

embedding_matrix = np.zeros((num_words, EMBEDDING_DIM))

for word, i in word_index.items():

try:

embedding_vector = word2vec_model[word]

embedding_matrix[i] = embedding_vector

except:

continue

return embedding_matrix

#word_index:词典(统计词转换为索引)

#num_word:词典长度+1

#word2vec_model:词向量的model

加载词向量model的方法：

def pre_load_embedding_model(model_file):

# model = gensim.models.Word2Vec.load(model_file)

# model = gensim.models.Word2Vec.load(model_file,binary=True)

model = gensim.models.KeyedVectors.load_word2vec_format(model_file)

return model

model中Embedding层的设置(注意参数，Input层的输入，初始化方法)：

embedding_matrix = create_embedding(word_index, num_words, word2vec_model)

embedding_layer = Embedding(num_words,

EMBEDDING_DIM,

embeddings_initializer=Constant(embedd