GCN思考 - 之word2vec的方式直接计算文本分类

优化一：

借鉴GCN的思想，在训练的过程中词和词之间是有一条边（比如同一句子中间隔不超过5的两个词），那么在word2vec中，是由词来预测词，比如CBOW中4个词预测一个中间词，那么在训练中也可以用同样的模型在CBOW预测的时候同时预测一个文章。

这时的huffman code是由词、文章类别 所组成的。

 

优化二：

传统的text-gcn是半监督学习的方式，每个doc和word都是一个node， 相邻的5个word中都存在edge， doc和其包含的所有word之间也存在一条edge， 实际上就是做的聚类工作，也就是未知种类的doc也要作为一个node放入图中， 这里无法用来去预估新来的样本，比如在线预估场景中，是无法使用的。 

那么可否将doc不放入图中，而只是将word-word建立一个图，这时候相当于GCN+Fasttext 或 GCN + CNN来预测了。