当对离散数据进行拟合预测时,往往要对特征进行onehot处理,但onehot是高度稀疏的向量,如果使用List或其他常规的存储方式,对内存占用极大。
这时稀疏矩阵类型 coo_matrix / csr_matrix 就派上用场了!
这两种稀疏矩阵类型csr_matrix存储密度更大,但不易手工构建。coo_matrix存储密度相对小,但易于手工构建,常用方法为先手工构建coo_matrix,如果对内存要求高则使用 tocsr()
方法把coo_matrix转换为csr_matrix类型。
csr_matrix内存使用约为coo_matrix的70% :
图片引用自网络
coo_matrix是比较通用的格式,比如sklearn中LR可直接处理coo_matrix 格式。
那么接下来就是构建coo_matrix矩阵。
应该很好理解吧?
就是分别定义有那些非零元素,以及各个非零元素对应的row和col,最后定义稀疏矩阵的shape。
coo_matrix 一经定义后shape就不可更改了! 但data, row, col 可更改。
但我查文档显示coo_matrix有reshape() 函数
使用reshape函数拋 NotImplementedError 异常。
查 v1.0.0版本源码:
原来reshape函数功能还未实现。。
合并两个 coo_matrix或 csr_matrix 可以使用 vstack() 或 hstack()。
具体自行查文档吧。