Python爬虫入门教程23:A站视频的爬取,解密m3u8视频格式
Python爬虫入门教程25:绕过JS加密参数,实现批量下载抖某音无水印视频内容
PS:如有需要 Python学习资料
以及 解答
的小伙伴可以加点击下方链接自行获取
-
Python 3.6
-
Pycharm
import requests
import parsel
import csv
import pandas as pd
from pyecharts.charts import *
from pyecharts.globals import ThemeType#设定主题
from pyecharts.commons.utils import JsCode
import pyecharts.options as opts
安装Python并添加到环境变量,pip安装需要的相关模块即可。
商品数据内容在网页源代码里面有, 所以直接情况网站数据, 然后通过相应的解析方法提取相关数据内容即可。
import requests
import parsel
import csv
f = open(‘书籍信息3.csv’, mode=‘a’, encoding=‘utf-8’, newline=‘’)
csv_writer = csv.DictWriter(f, fieldnames=[‘标题’, ‘推荐’, ‘评价’,
‘作者’, ‘出版日期’, ‘出版社’,
‘原价’, ‘售价’, ‘电子书价格’,
‘详情页’])
csv_writer.writeheader()
for page in range(1, 26):
print(f’正在保存第{page}页数据内容===========')
url = f’http://bang.dangdang.com/books/bestsellers/01.00.00.00.00.00-year-2017-0-1-{page}’
headers = {
‘User-Agent’: ‘Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/89.0.4389.90 Safari/537.36’
}
response = requests.get(url=url, headers=headers)
print(response.text)
selector = parsel.Selector(response.text)
lis = selector.css(‘.bang_list_mode li’)
for li in lis:
title = li.css(‘.name a::attr(title)’).get() # 标题/书名
recommend = li.css(‘.tuijian::text’).get() # 推荐
star = li.css(‘.star a::text’).get() # 评价
author = li.css(‘div:nth-child(5) a:nth-child(1)::attr(title)’).get() # 作者
date = li.css(‘div:nth-child(6) span::text’).get() # 出版日期
press = li.css(‘div:nth-child(6) a::text’).get() # 出版社
price_r = li.css(‘.price .price_r::text’).get() # 原价
price_n = li.css(‘.price .price_n::text’).get() # 售价
price_e = li.css(‘.price_e span::text’).get() # 电子书价格
href = li.css(‘.name a::attr(href)’).get() # 详情页
dit = {
‘标题’: title,
‘推荐’: recommend,
‘评价’: star,
‘作者’: author,
‘出版日期’: date,
‘出版社’: press,
‘原价’: price_r,
‘售价’: price_n,
‘电子书价格’: price_e,
‘详情页’: href,
}
with open(‘书籍.csv’, mode=‘a’, encoding=‘utf-8’) as f:
f.write(f’{title},{recommend},{star},{author},{date},{press},{price_r},{price_n},{price_e}\n’)
csv_writer.writerow(dit)
print(title, recommend, star, author, date, press, price_r, price_n, price_e, sep=’ | ')
❤书籍原价价格区间❤
pie1 = (
Pie(init_opts=opts.InitOpts(theme=‘dark’,width=‘1000px’,height=‘600px’))
.add(‘’, datas_pair_1, radius=[‘35%’, ‘60%’])
.set_series_opts(label_opts=opts.LabelOpts(formatter=“{b}:{d}%”))
.set_global_opts(
title_opts=opts.TitleOpts(
title=“当当网书籍\n\n原价价格区间”,
pos_left=‘center’,
pos_top=‘center’,
title_textstyle_opts=opts.TextStyleOpts(
color=‘#F0F8FF’,
font_size=20,
font_weight=‘bold’
),
)
)
.set_colors([‘#EF9050’, ‘#3B7BA9’, ‘#6FB27C’, ‘#FFAF34’, ‘#D8BFD8’, ‘#00BFFF’, ‘#7FFFAA’])
)
pie1.render_notebook()
❤书籍售价价格区间❤
pie1 = (
Pie(init_opts=opts.InitOpts(theme=‘dark’,width=‘1000px’,height=‘600px’))
.add(‘’, datas_pair_2, radius=[‘35%’, ‘60%’])
.set_series_opts(label_opts=opts.LabelOpts(formatter=“{b}:{d}%”))
.set_global_opts(
title_opts=opts.TitleOpts(
title=“当当网书籍\n\n售价价格区间”,
pos_left=‘center’,
pos_top=‘center’,
title_textstyle_opts=opts.TextStyleOpts(
color=‘#F0F8FF’,
font_size=20,
font_weight=‘bold’
),
)
)
.set_colors([‘#EF9050’, ‘#3B7BA9’, ‘#6FB27C’, ‘#FFAF34’, ‘#D8BFD8’, ‘#00BFFF’, ‘#7FFFAA’])
)
pie1.render_notebook()
❤各个出版社书籍数量柱状图❤
bar=(
Bar(init_opts=opts.InitOpts(height=‘500px’,width=‘1000px’,theme=‘dark’))
.add_xaxis(counts.index.tolist())
.add_yaxis(
‘出版社书籍数量’,
counts.values.tolist(),
label_opts=opts.LabelOpts(is_show=True,position=‘top’),
itemstyle_opts=opts.ItemStyleOpts(
color=JsCode(“”"new echarts.graphic.LinearGradient(
0, 0, 0, 1,[{offset: 0,color: ‘rgb(255,99,71)’}, {offset: 1,color: ‘rgb(32,178,170)’}])
“”"
)
)
)
.set_global_opts(
title_opts=opts.TitleOpts(
title=‘各个出版社书籍数量柱状图’),
xaxis_opts=opts.AxisOpts(name=‘书籍名称’,
type_=‘category’,
axislabel_opts=opts.LabelOpts(rotate=90),
),
yaxis_opts=opts.AxisOpts(
name=‘数量’,
min_=0,
max_=29.0,
splitline_opts=opts.SplitLineOpts(is_show=True,linestyle_opts=opts.LineStyleOpts(type_=‘dash’))
),
tooltip_opts=opts.TooltipOpts(trigger=‘axis’,axis_pointer_type=‘cross’)
自我介绍一下,小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。
深知大多数Python工程师,想要提升技能,往往是自己摸索成长或者是报班学习,但对于培训机构动则几千的学费,着实压力不小。自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!
因此收集整理了一份《2024年Python开发全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友,同时减轻大家的负担。
既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上前端开发知识点,真正体系化!
由于文件比较大,这里只是将部分目录大纲截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且后续会持续更新
如果你觉得这些内容对你有帮助,可以扫码获取!!!(备注:Python)
s3KU-1713677776706)]
[外链图片转存中…(img-zLOhSuD1-1713677776706)]
既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上前端开发知识点,真正体系化!
由于文件比较大,这里只是将部分目录大纲截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且后续会持续更新
如果你觉得这些内容对你有帮助,可以扫码获取!!!(备注:Python)