泛统计理论初探——统计编码方法简介

统计学习-统计编码方法简介

机器学习常见的编码方法简介
在实际的问题中，经常会遇到自变量是分类变量的问题，比如血型、学历、职称级别、衣服型号等。在处理这些变量的时候，通常会对变量进行编码处理，使得原来的变量取值变成数学上的数字，比如0，1等数值，这样可以方便代入模型来进行实际预测和分析。在本文中，我们将介绍几种常见的编码方法，通过学习编码方法来加深机器学习中对分类变量处理的认识。
常见的结构型数据可以分为四种：定比数据、定距数据、定序数据、定类数据，在之前的文章已经提到过了，此处不再赘述。对于分类变量的处理，其实要分有顺序的分类变量和无顺序的分类变量，即定序数据和定类数据。下面通过案例来分别介绍。
首先是有顺序的分类变量，这种变量的处理我们通常进行顺序编码，即在编码后依旧保持了原有变量取值的顺序关系。比如学历可能划分为：中专以及中专以下、大专、本科、研究生、博士生等，在这个时候我们发现，这些学历其实有顺序的，所以这个时候我们使用序号编码进行处理，按顺序编码得到：中专以及中专以下编码为1，大专编码为2，本科编码为3，研究生编码为4，博士生编码为5。在编码后，原有的变量（学历）顺序没有被改变，编码后的值从1，2，3，4，5为递增的关系。其实前面提到的衣服型号编码也是可以进行顺序编码的，衣服型号通常有：S，M，L，XL，XXL等，对应的型号是小型、中型、大型、特大型、特特大型。按顺序编码，我们把S型编码为1、M型编码为2、L型编码为3、XL型编码为4、XXL型编码为5。在编码后，原有的变量&