最近开始学习机器学习知识,将所学知识记录在此,以备日后学习。
1-of-k(哑编码):
功能:将非数值型的特征值(类别类型的)转换为数值型的数据。
描述:假设变量取值有K个,如果对这些值用1到K偏序,则可用维度为K的向量来表示一个变量的值。这样的向量里,该取值所对应的序号所在的元素为1,其他元素均为0。(其实就是搞成一个矩阵)
词袋法:
描述:将文本当做一个无序的数据集合,文本特征可以采用文本中的词条T进行体现,那么文本中出现的所有词条及其出现的次数就可以体现文档的特征。
TF-IDF:
描述:词条的重要性随着其在文件中出现的次数成比例增加,但同时会随着他在语料库中出现的频率成反比下降(一个词条在某个文本中出现次数越多,在语料库中出现的次数越少,说明该词条对该文本的重要性越高)。TF(词频) 指某个词条在文本中出现的次数,一般将其进行归化处理(该词条数量/该文档中所有词条数量);IDF(逆向文件频率) 指一个词条重要性的度量,一般计算方式为总文件数目除以包含该词语的文件数目,在将得到的商取对数。TF-IDF实际上是:TF*IDF。