只需这个简单的两步，能大幅提高你的Python数据处理速度_python数据处理怎么才能不卡

2分钟处理8000个单元，还行？这个远远不够，想象一下我们有10万个这样的csv要处理怎么办？那需要278天！怎么提高效能呢？

第一步

Dataframe的append效能很低，如果我们知道未来表的条目，预先分配好空间，将来直接向里面填入内容会快不少，我们来修改一下程序：

结果好了不少：

Time spent: 0:01:27.636000

少了半分钟，是不是就这样了呢？还远远不够。

第二步

Dataframe检索每一行有好几个操作:loc,iloc,ix,at。它们效能有什么差别吗？我们来试一下：

loc，iloc,ix看起来速度都差不多，at可是快了将近1000倍啊，可惜的是at只能选择某个单元而不是整行。没关系，我们来改一下程序：

结果大为改善：

Time spent: 0:00:07.850000

只有7秒，比以前快了12倍！更比开始的时候快了15倍多。

结论

如果目标数据集行数确定，我们应该先分配出来，在一项项填入而不是append，要做填空题而不是做补充题；尽量选择用at/iat而是不是方便的loc/iloc或者ix。

最后给大家一个思考题，为什么我在最后的程序里面加了个

outdf.loc[0] = indf.loc[0]

不加会怎么样？

（1）Python所有方向的学习路线（新版）

这是我花了几天的时间去把Python所有方向的技术点做的整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。

最近我才对这些路线做了一下新的更新，知识体系更全面了。

（2）Python学习视频

包含了Python入门、爬虫、数据分析和web开发的学习视频，总共100多个，虽然没有那么全面，但是对于入门来说是没问题的，学完这些之后，你可以按照我上面的学习路线去网上找其他的知识资源进行进阶。

（3）100多个练手项目

我们在看视频学习的时候，不能光动眼动脑不动手，比较科学的学习方法是在理解之后运用它们，这时候练手项目就很适合了，只是里面的项目比较多，水平也是参差不齐，大家可以挑自己能做的项目去练练。

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友，可以戳这里无偿获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
)**

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！