python数据整理+突发断网解决方法（学习笔记）

time.sleep(np.random.randint(5))

skdfs.to_excel(“skfiles.xlsx”,encoding=‘utf-8-sig’)

如图即为爬取的数据，会放到skfiles文件夹下的Excel当中：

一个Excel当中有20条记录，那么如果是要让100条记录在一个Excel当中呢？

for ski in range(0,30): # 0-30页，我要每5页创建一个Excel文件

skdf=pd.DataFrame()

url=‘http://fz.people.com.cn/skygb/sk/index.php/index/seach/’+str(ski)

reuqest=urllib.request.Request(url,headers=headers)

content=urllib.request.urlopen(reuqest).read()

soup=BeautifulSoup(content,‘lxml’)

tables=soup.findAll(‘table’)

tab=tables[2] # 查找发现tables[2]是我们要的数据

skdata=pd.read_html(tab.prettify())

skdf=pd.DataFrame(skdata[0])

skdfs=skdfs.append(skdf)

print(‘已经完成第’+str(ski)+‘页’)

if((ski%10)==0):

skdf.to_excel(“skfiles/”+str(ski)+“.xlsx”,encoding=‘utf-8-sig’) # 在skfiles文件夹下面

time.sleep(np.random.randint(5))

skdfs.to_excel(“skfiles.xlsx”,encoding=‘utf-8-sig’)

每隔5页创建一个Excel文件：

数据合并（追加）

======================================================================

比如我们要把上面的5.xlsx到25.xlsx合并起来，应该如果做呢

方法一：Excel

---

调用查询编辑器power quer：

导入数据源：将10.xlsx与25.xlsx进行连接：

此时即追加成功

方法二：Python

---

我要将下图的两个Excel文件通过Python进行合并

注：不能直接写("skdf2810.xlsx",usecols=np.arange(1,21)) ，要确保Python与Excel的文件路径一致。

import numpy as np

import pandas as pd

skdf1=pd.read_excel(“skfiles/skdf2810.xlsx”,usecols=np.arange(1,21))

skdf2=pd.read_excel(“skfiles/skdf5020.xlsx”,usecols=np.arange(1,21))

其中这句话的含义是：usecols=np.arange(1,21)当读取表格的时候只从第一列开始读，第0列不用读，因为0列没有多大意义。

合并：

skdf=skdf1.append(skdf2)

skdf.info

关于Python的merge：

如果我把数据分成两半，sheet1是原始数据，sheet2是sheet1的前3行，sheet3是sheet1的后三行，则是否可以使用merge将后两张表进行合并呢？

以stus为例

studf1=pd.read_excel(“stus.xlsx”,“Sheet2”)

studf2=pd.read_excel(“stus.xlsx”,“Sheet3”) # df1与df2没有共同语言

stusdf=pd.read_excel(“stus.xlsx”)

如果直接使用下面这句代码是会报错的，因为studf1和studf2是没有相互关联的关键字（也就是两者没有共同语言），因此无法进行merge连接。

display(studf1,studf2,pd.merge(studf1,studf2)) # 报错

但是仔细想想，studf1和studf2分别都和studf有共同语言啊！

如果你也是看准了Python，想自学Python，在这里为大家准备了丰厚的免费学习大礼包，带大家一起学习，给大家剖析Python兼职、就业行情前景的这些事儿。

一、Python所有方向的学习路线

Python所有方向路线就是把Python常用的技术点做整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。

二、学习软件

工欲善其必先利其器。学习Python常用的开发软件都在这里了，给大家节省了很多时间。

三、全套PDF电子书

书籍的好处就在于权威和体系健全，刚开始学习的时候你可以只看视频或者听某个人讲课，但等你学完之后，你觉得你掌握了，这时候建议还是得去看一下书籍，看权威技术书籍也是每个程序员必经之路。

四、入门学习视频

我们在看视频学习的时候，不能光动眼动脑不动手，比较科学的学习方法是在理解之后运用它们，这时候练手项目就很适合了。

四、实战案例

光学理论是没用的，要学会跟着一起敲，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

五、面试资料

我们学习Python必然是为了找到高薪的工作，下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料，并且有阿里大佬给出了权威的解答，刷完这一套面试资料相信大家都能找到满意的工作。

成为一个Python程序员专家或许需要花费数年时间，但是打下坚实的基础只要几周就可以，如果你按照我提供的学习路线以及资料有意识地去实践，你就有很大可能成功！
最后祝你好运！！！

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友，可以戳这里无偿获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！