python “双”稀疏矩阵转换为最小联通量“单”矩阵

记一次矩阵类乘操作,工具python scipy.sparse包 核心部分sparseMatrix2tuple自己写。

  • 需求:将两个约10000*10000的矩阵通过“最小联通量”处理为一个10000*10000的矩阵。
    • 最小联通量,见图。
    • A = 

    • B = 

    • 矩阵A  pn1对应A01C、A01D, B矩阵A01C、A01D对应A0111,即pn1 对应A0111为2,如果AB矩阵的所有行列对应起来就是一个新的矩阵,A的行和B的列形成的矩阵。
  • 思想:“matrix矩阵”—>”tuple三元组”—>”sparseMatrix2tuple”—>”新tuple三元组”
  • 实现:“matrix矩阵”—>”tuple三元组”—>”sparseMatrix2tuple”—>”新tuple三元组”
  • Code:(部分代码,为了防止我之后忘记了)
  • from scipy import sparse
    import numpy as np
    import time
    
    t1 = time.time()
    
    #稀疏矩阵转换后相当于是处理一维矩阵运算
    for u in np.unique(tuple_L.row):
    #     print('行:',u)
        temp_row = []
        L_mid_map={}
        R_mid_list=[]
        
        for i in [m for m,item in enumerate(tuple_L.row) if item==u]:# 取行中相同元素的下标
            v = tuple_L.col[i]
            if v in tuple_R.row:# 是否在右矩阵的列中
                temp_row.append(v)# 左矩阵列中元素
                L_mid_map[v] = i # v表示左矩阵的行的下标,i表示左矩阵列的值  (左矩阵列指的是col_list)
        
        R_mid_list = [n for n,item in enumerate(tuple_R.row) if item in temp_row]#  右矩阵行中元素的下标
    #     print(R_mid_list)
    
    '''此处开始因为想太多,迟迟下不了手敲代码,想不出以何种方式记录需要进行遍历的数据'''
    
        for k in range(len(R_mid_list)):  
    #         print(k)
    #         print(R_mid_list[k])
            row_list.append(u) 
            col_list.append(tuple_R.col[R_mid_list[k]])
            data_list.append(min(tuple_L.data[L_mid_map.get(tuple_R.row[R_mid_list[k]])],tuple_R.data[R_mid_list[k]]))
            # L_mid_map.get(tuple_R.row[R_mid_list[k]]) 通过右矩阵的行获取values值  
            # 进而得到这些values值在左矩阵map中获取下标   然后得到data的数据值(tri-tuple)
    t2 = time.time()
    print(t2-t1)
    
    matrix_ovl = sparse.coo_matrix((data, (row,col)), shape=(len(df_A.index),len(df_B.columns)))
    # 通过利用coo_matrix 将自己的数据再次转回矩阵,即单个矩阵
    
  • 在完成此代码之前曾因为数据量少,所以直接运了矩阵进行处理,但是当数据量上来后时间消耗到了2h之久,于是开始准备优化程序,最终该代码保证在2min内搞定,虽然当我记录的时候已经是“柳暗花明又一村”但是曾经的”山重水复疑无路“也着实让人着急啊。

  • 小结:

    • coding时要在思考与实践之间平衡,即先实现后优化,如果一味的执着于优化结果,将停滞不前;

    • 找逻辑关系很重要,找准核心的关键部分,缕清思绪能减少很多无谓的工作。

    • 如果自己脑子在打转的问题,就去找个人,试着把你要做的事情讲述给他。

  • 最后记录下自己熬夜写代码的苦逼经历,感谢自己的努力!!!

作者:soul_mate

  • 11
    点赞
  • 11
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值