一、Python所有方向的学习路线
Python所有方向路线就是把Python常用的技术点做整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。
二、学习软件
工欲善其事必先利其器。学习Python常用的开发软件都在这里了，给大家节省了很多时间。
三、入门学习视频
我们在看视频学习的时候，不能光动眼动脑不动手，比较科学的学习方法是在理解之后运用它们，这时候练手项目就很适合了。
网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。
一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
怎么样，仅用几行代码就能实现自动上网操作，是不是挺神奇的？当然，这仅仅是Selenium最简单的功能，还有很多更加丰富的操作，可以参考以下几篇教程：
参考网站：
Selenium官网： https://selenium-python.readthedocs.io/
SeleniumPython文档（英文版）：http://selenium-python.readthedocs.org/index.html
SeleniumPython文档（中文版）：https://selenium-python-zh.readthedocs.io/en/latest/faq.html
Selenium 基本操作：https://www.yukunweb.com/2017/7/python-spider-Selenium-PhantomJS-basic/
Selenium爬取淘宝信息实战：https://cuiqingcai.com/2852.html
只需要记住重要的一点就是：Selenium能做到"可见即可爬"。也就是说网页上你能看到的东西，Selenium基本上都能爬取下来。包括上面我们提到的东方财富网的财务报表数据，它也能够做到，而且非常简单直接，不用去后台查看用了什么JavaScript技术或者Ajax参数。下面我们就实际来操练下吧。
4. 编码实现
4.1. 思路
- 安装配置好Selenium运行的相关环境，浏览器可以用Chrome、Firefox、PhantomJS等，我用的是Chrome；
- 东方财富网的财务报表数据不用登录可直接获得，Selenium更加方便爬取；
- 先以单个网页中的财务报表为例，表格数据结构简单，可先直接定位到整个表格，然后一次性获取所有td节点对应的表格单元内容；
- 接着循环分页爬取所有上市公司的数据，并保存为csv文件。
- 重新构造灵活的url，实现可以爬取任意时期、任意一张财务报表的数据。
根据上述思路，下面就用代码一步步来实现。
4.2. 爬取单页表格
我们先以2018年中报的利润表为例，抓取该网页的第一页表格数据，网页url：http://data.eastmoney.com/bbsj/201806/lrb.html
快速定位到表格所在的节点：id = dt_1，然后可以用Selenium进行抓取了，方法如下：
1from selenium import webdriver
2browser = webdriver.Chrome()
3# 当测试好能够顺利爬取后，为加快爬取速度可设置无头模式，即不弹出浏览器
4# 添加无头headlesss 1使用chrome headless,2使用PhantomJS
5# 使用 PhantomJS 会警告高不建议使用phantomjs，建议chrome headless
6# chrome_options = webdriver.ChromeOptions()
7# chrome_options.add_argument('--headless')
8# browser = webdriver.Chrome(chrome_options=chrome_options)
9# browser = webdriver.PhantomJS()
10# browser.maximize_window() # 最大化窗口,可以选择设置
11
12browser.get('http://data.eastmoney.com/bbsj/201806/lrb.html')
13element = browser.find_element_by_css_selector('#dt_1') # 定位表格，element是WebElement类型
14# 提取表格内容td
15td_content = element.find_elements_by_tag_name("td") # 进一步定位到表格内容所在的td节点
16lst = [] # 存储为list
17for td in td_content:
18 lst.append(td.text)
19print(lst) # 输出表格内容
这里，使用Chrome浏览器构造一个Webdriver对象，赋值给变量browser，browser调用get()方法请求想要抓取的网页。接着使用find_element_by_css_selector方法查找表格所在的节点：‘#dt_1’。
这里推荐一款小巧、快速定位css/xpath的Chrome插件：SelectorGadget，使用这个插件就不用再去源代码中手动定位节点那么麻烦了。
插件地址：https://chrome.google.com/webstore/detail/selectorgadget/mhjhnkcfbdhnjickkkdbjoemdmbfginb
紧接着再向下定位到td节点，因为网页中有很多个td节点，所以要用find_elements方法。然后，遍历数据节点存储到list中。打印查看一下结果：
1# list形式:
2['1', '002161', '远望谷', ...'-7960万', '09-29',
3 '2','002316', '亚联发展', ...'1.79亿', '09-29',
4 '3',...
5 '50', '002683', '宏大爆破',...'1.37亿', '09-01']
是不是很方便，几行代码就能抓取下来这一页表格，除了速度有点慢。
为了便于后续存储，我们将list转换为DataFrame。首先需要把这一个大的list分割为多行多列的子list，实现如下：
1import pandas as pd
2# 确定表格列数
3col = len(element.find_elements_by_css_selector('tr:nth-child(1) td'))
4# 通过定位一行td的数量，可获得表格的列数，然后将list拆分为对应列数的子list
5lst = [lst[i:i + col] for i in range(0, len(lst), col)]
6# 原网页中打开"详细"链接可以查看更详细的数据，这里我们把url提取出来，方便后期查看
7lst_link = []
8links = element.find_elements_by_css_selector('#dt_1 a.red')
9for link in links:
10 url = link.get_attribute('href')
11 lst_link.append(url)
12lst_link = pd.Series(lst_link)
13# list转为dataframe
14df_table = pd.DataFrame(lst)
15# 添加url列
16df_table['url'] = lst_link
17print(df_table.head()) # 查看DataFrame
这里，要将list分割为子list，只需要确定表格有多少列即可，然后将每相隔这么多数量的值划分为一个子list。如果我们数一下该表的列数，可以发现一共有16列。但是这里不能使用这个数字，因为除了利润表，其他报表的列数并不是16，所以当后期爬取其他表格可能就会报错。这里仍然通过find_elements_by_css_selector方法，定位首行td节点的数量，便可获得表格的列数，然后将list拆分为对应列数的子list。同时，原网页中打开"详细"列的链接可以查看更详细的数据，这里我们把url提取出来，并增加一列到DataFrame中，方便后期查看。打印查看一下输出结果：
可以看到，表格所有的数据我们都抓取到了，下面只需要进行分页循环爬取就行了。
这里，没有抓取表头是因为表头有合并单元格，处理起来就非常麻烦。建议表格抓取下来后，在excel中复制表头进去就行了。如果，实在想要用代码完成，可以参考这篇文章：https://blog.csdn.net/weixin_39461443/article/details/75456962
4.3. 分页爬取
上面完成了单页表格的爬取，下面我们来实现分页爬取。
首先，我们先实现Selenium模拟翻页跳转操作，成功后再爬取每页的表格内容。
1from selenium import webdriver
2from selenium.common.exceptions import TimeoutException
3from selenium.webdriver.common.by import By
4from selenium.webdriver.support import expected_conditions as EC
5from selenium.webdriver.support.wait import WebDriverWait
6import time
7
8browser = webdriver.Chrome()
9browser.maximize_window() # 最大化窗口,可以选择设置
10wait = WebDriverWait(browser, 10)
11def index_page(page):
12 try:
13 browser.get('http://data.eastmoney.com/bbsj/201806/lrb.html')
14 print('正在爬取第： %s 页' % page)
15 wait.until(
16 EC.presence_of_element_located((By.ID, "dt_1")))
17 # 判断是否是第1页，如果大于1就输入跳转，否则等待加载完成。
18 if page > 1:
19 # 确定页数输入框
20 input = wait.until(EC.presence_of_element_located(
21 (By.XPATH, '//*[@id="PageContgopage"]')))
22 input.click()
23 input.clear()
24 input.send_keys(page)
25 submit = wait.until(EC.element_to_be_clickable(
26 (By.CSS_SELECTOR, '#PageCont > a.btn_link')))
27 submit.click()
28 time.sleep(2)
29 # 确认成功跳转到输入框中的指定页
30 wait.until(EC.text_to_be_present_in_element(
31 (By.CSS_SELECTOR, '#PageCont > span.at'), str(page)))
32 except Exception:
33 return None
34
35def main():
36 for page in range(1,5): # 测试翻4页
37 index_page(page)
38if __name__ == '__main__':
39 main()
这里，我们先加载了相关包，使用WebDriverWait对象，设置最长10s的显式等待时间，以便网页加载出表格。判断表格是否加载出来，用到了EC.presence_of_element_located条件。表格加载出来后，设置一个页面判断，如果在第1页就等待页面加载完成，如果大于第1页就开始跳转。
要完成跳转操作，我们需要通过获取输入框input节点，然后用clear()方法清空输入框，再通过send_keys()方法填写相应的页码，接着通过submit.click()方法击下一页完成翻页跳转。
这里，我们测试一下前4页跳转效果，可以看到网页成功跳转了。下面就可以对每一页应用第一页爬取表格内容的方法，抓取每一页的表格，转为DataFrame然后存储到csv文件中去。
4.4. 通用爬虫构造
上面，我们完成了2018年中报利润表： http://data.eastmoney.com/bbsj/201806/lrb.html，一个网页表格的爬取。但如果我们想爬取任意时期、任意一张报表的表格，比如2017年3季度的利润表、2016年全年的业绩报表、2015年1季度的现金流量表等等。上面的代码就行不通了，下面我们对代码进行一下改造，变成更通用的爬虫。从图中可以看到，东方财富网年报季报有7张表格，财务报表最早从2007年开始每季度一次。基于这两个维度，可重新构造url的形式，然后爬取表格数据。下面，我们用代码进行实现：
1# 重构url
2# 1 设置财务报表获取时期
3year = int(float(input('请输入要查询的年份(四位数2007-2018)： ')))
4# int表示取整，里面加float是因为输入的是str，直接int会报错，float则不会
5while (year < 2007 or year > 2018):
6 year = int(float(input('年份数值输入错误，请重新输入：')))
7quarter = int(float(input('请输入小写数字季度(1:1季报，2-年中报，3：3季报，4-年报)： ')))
8while (quarter < 1 or quarter > 4):
9 quarter = int(float(input('季度数值输入错误，请重新输入： ')))
10# 转换为所需的quarter 两种方法,2表示两位数，0表示不满2位用0补充
11quarter = '{:02d}'.format(quarter * 3)
12# quarter = '%02d' %(int(month)*3)
13date = '{}{}' .format(year, quarter)
14
15# 2 设置财务报表种类
16tables = int(
17 input('请输入查询的报表种类对应的数字(1-业绩报表；2-业绩快报表：3-业绩预告表；4-预约披露时间表；5-资产负债表；6-利润表；7-现金流量表): '))
18dict_tables = {1: '业绩报表', 2: '业绩快报表', 3: '业绩预告表',
19 4: '预约披露时间表', 5: '资产负债表', 6: '利润表', 7: '现金流量表'}
20dict = {1: 'yjbb', 2: 'yjkb/13', 3: 'yjyg',
**网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。**
**[需要这份系统化学习资料的朋友，可以戳这里获取](https://bbs.csdn.net/topics/618317507)**
**一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
