python爬取12306_Python 爬取12306火车票

本文介绍了一个Python脚本,用于通过命令行查询中国铁路12306的火车班次信息,包括高铁、动车、特快等,并使用了requests库进行网络请求,docopt处理命令行参数,prettytable进行格式化输出。
摘要由CSDN通过智能技术生成

#!/usr/bin/env python#coding:utf-8

"""命令行的火车票查看器

Usage:

12306 [-gdtkz]

Options:

-h,--help 显示帮助

-g 高铁

-d 动车

-t 特快

-k 快速

-z 直达

Example:

12306 上海 北京 2016-12-16

12306 -dg 上海北京 2016-12-16

pip install requests prettytable docopt colorama

#prettytable格式化工具

#docopt是python3命令行的位置参数解析工具

#colorama是添加显示颜色"""

importrequestsfrom docopt importdocoptimportsys#sys.path.append(r"/py/stations")

from stations importstationsimportjsonfrom prettytable importPrettyTableclassTrainsCollections:

header= '车次 车站 时间 历时 一等 二等 软卧 硬卧 硬座 无座'.split()def __init__(self,available_tranins,options):

self.available_tranins=available_tranins

self.options=optionsdef_get_duration(self,raw_train):

durations= raw_train.get('lishi').replace(':','小时') + '分'

returndurations#装饰器,把此函数定义为属性,以被别的函数调用

@propertydeftrains(self):for raw_train inself.available_tranins:

train_no= raw_train['station_train_code']

initial=train_no[0].lower()if not self.options or initial inself.options:

train=[

train_no,'\n'.join([raw_train['from_station_name'],raw_train['to_station_name']]),'\n'.join([raw_train['start_time'],raw_train['arrive_time']]),

self._get_duration(raw_train),

raw_train['zy_num'],

raw_train['ze_num'],

raw_train['rw_num'],

raw_train['yw_num'],

raw_train['yz_num'],

raw_train['wz_num'],

]#print(train)

#生成器,一次返回一项

yieldtraindefpretty_print(self):

pt=PrettyTable()

pt._set_field_names(self.header)for train inself.trains:

pt.add_row(train)print(pt)defcli():'''{

'-d':True,

'-g':True,

'-k':False,

'-t':False,

'-z':False,

'':'2017-03-23',

'':'海口',

'':'北京'}'''arguments= docopt(__doc__)print(arguments)

from_station= stations.get(arguments[''])

to_station= stations.get(arguments[''])

date= arguments['']#获取参数,列表解析

options = ''.join([k for k,v in arguments.items() if v isTrue])

url= 'https://kyfw.12306.cn/otn/leftTicket/query?leftTicketDTO.train_date={}&leftTicketDTO.from_station={}&leftTicketDTO.to_station={}&purpose_codes=ADULT'.format(date,from_station,to_station)#url = 'https://kyfw.12306.cn/otn/leftTicket/query?leftTicketDTO.train_date={}&leftTicketDTO.from_station={}&leftTicketDTO.to_station={}&purpose_codes=ADULT'

r = requests.get(url,verify=False)print(url)#jjj = json.loads(str(r))

available_tranins1 = r.json()['data']

available_tranins=[]for available_tranins2 inavailable_tranins1:

available_tranins.append(available_tranins2['queryLeftNewDTO'])#available_tranins = list(available_tranins.keys())

#print(available_tranins)

#TrainsCollections(available_tranins,options).pretty_print()

#available_tranins = available_tranins2['queryLeftNewDTO']

#print(available_tranins)

#print(type(available_tranins[0]))

TrainsCollections(available_tranins,options).pretty_print()if __name__ == '__main__':#TrainsCollections.cli()

cli()

【为什么学爬虫?】        1、爬虫入手容易,但是深入较难,如何写出高效率的爬虫,如何写出灵活性高可扩展的爬虫都是一项技术活。另外在爬虫过程中,经常容易遇到被反爬虫,比如字体反爬、IP识别、验证码等,如何层层攻克难点拿到想要的数据,这门课程,你都能学到!        2、如果是作为一个其他行业的开发者,比如app开发,web开发,学习爬虫能让你加强对技术的认知,能够开发出更加安全的软件和网站 【课程设计】 一个完整的爬虫程序,无论大小,总体来说可以分成三个步骤,分别是:网络请求:模拟浏览器的行为从网上抓取数据。数据解析:将请求下来的数据进行过滤,提取我们想要的数据。数据存储:将提取到的数据存储到硬盘或者内存中。比如用mysql数据库或者redis等。那么本课程也是按照这几个步骤循序渐进的进行讲解,带领学生完整的掌握每个步骤的技术。另外,因为爬虫的多样性,在爬取的过程中可能会发生被反爬、效率低下等。因此我们又增加了两个章节用来提高爬虫程序的灵活性,分别是:爬虫进阶:包括IP代理,多线程爬虫,图形验证码识别、JS加密解密、动态网页爬虫、字体反爬识别等。Scrapy和分布式爬虫:Scrapy框架、Scrapy-redis组件、分布式爬虫等。通过爬虫进阶的知识点我们能应付大量的反爬网站,而Scrapy框架作为一个专业的爬虫框架,使用他可以快速提高我们编写爬虫程序的效率和速度。另外如果一台机器不能满足你的需求,我们可以用分布式爬虫让多台机器帮助你快速爬取数据。 从基础爬虫到商业化应用爬虫,本套课程满足您的所有需求!【课程服务】 专属付费社群+定期答疑
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值