问:一个可以做模糊匹配的字段,同一行的数据需要和其他行的数据分别比对,除了循环,有没有什么可以调高效率的方法。
方法一:数据量小的话,可以行列交换,矩阵运算
方法二:python内置map和reduce函数,处理速度大概是for的n倍,看数据复杂度
方法三:数据量大的话,建议用spark,大数据有大数据的方法,可以流处理或内存处理
方法四:如果是地址数据的话, 转化成可计算的数值 可以用word2vec或者tf-idf
对数据分析、机器学习、数据科学、金融风控等感兴趣的小伙伴,需要数据集、代码、行业报告等各类学习资料,可添加微信:wu805686220(记得要备注喔!),也可关注微信公众号:风控圏子(别打错字,是圏子,不是圈子,算了直接复制吧!)
关注公众号后,可联系圈子助手加入如下社群:
- 机器学习风控讨论群(微信群)
- 反欺诈讨论群(微信群)
- python学习交流群(微信群)
- 研习社资料(qq群:102755159)(干货、资料、项目、代码、报告、课件)
相互学习,共同成长。