driver = webdriver.Chrome()
4. 页面滚动
def drop\_down():
for x in range(1, 27, 3):
time.sleep(1)
j = x / 27 # 1/9 3/9 5/9 9/9
js = 'document.documentElement.scrollTop = document.documentElement.scrollHeight \* %f' % j
driver.execute_script(js)
5. 保存数据
lis = driver.find_elements_by_css_selector('.dgControl\_list li .iuscp')
page = 1
for li in lis:
try:
img_url = li.find_element_by_css_selector('.mimg').get_attribute('src')
title = li.find_element_by_css_selector('.b\_dataList a').get_attribute('title')
title = re.sub(r'[\/"<>\*?|\n]', '', title)
img_content = requests.get(url=img_url).content
with open('img//' + title + str(page) + '.jpg', mode='wb') as f:
f.write(img_content)
print(title, img_url)
page +=1
这里特意留了一个小bug,诶嘿~
5. 效果
全角色语音+高清彩图部分
1.准备工具
源码资料电子书:点击此处跳转文末名片获取
2. 准备模块
import requests
import re
import execjs
3. 请求链接
4. 本次目标
所有角色的:
- 基础介绍
- 中日语音
- 图片
5. 分析数据来源
1. 右键点击检查(开发者工具)
2.刷新网页,找准对应数据
6. 开始代码
url = 'https:///main/character/liyue?char=1'
html_data = requests.get(url).text
print(html_data)
源码资料电子书:点击此处跳转文末名片获取
筛选数据
随便搜索网站内包含内容:“南十字”
使用正则表达式匹配数据内容
js_text = re.findall('window.\_\_NUXT\_\_=(.\*);', html_data)[0]
7. 执行结果
html_data = requests.get(url).text
js_text = re.findall('window.\_\_NUXT\_\_=(.\*);', html_data)[0]
result = execjs.eval(js_text)
此时会出现编码问题
加指定编码
import subprocess
from functools import partial
subprocess.Popen = partial(subprocess.Popen, encoding="utf-8")
再次运行,无报错
使用pprint查看数据结构
pprint.pprint(result)
返回网页查看我们需要的内容
最后
Python崛起并且风靡,因为优点多、应用领域广、被大牛们认可。学习 Python 门槛很低,但它的晋级路线很多,通过它你能进入机器学习、数据挖掘、大数据,CS等更加高级的领域。Python可以做网络应用,可以做科学计算,数据分析,可以做网络爬虫,可以做机器学习、自然语言处理、可以写游戏、可以做桌面应用…Python可以做的很多,你需要学好基础,再选择明确的方向。这里给大家分享一份全套的 Python 学习资料,给那些想学习 Python 的小伙伴们一点帮助!
👉Python所有方向的学习路线👈
Python所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照上面的知识点去找对应的学习资源,保证自己学得较为全面。
👉Python必备开发工具👈
工欲善其事必先利其器。学习Python常用的开发软件都在这里了,给大家节省了很多时间。
👉Python全套学习视频👈
我们在看视频学习的时候,不能光动眼动脑不动手,比较科学的学习方法是在理解之后运用它们,这时候练手项目就很适合了。
👉实战案例👈
学python就与学数学一样,是不能只看书不做题的,直接看步骤和答案会让人误以为自己全都掌握了,但是碰到生题的时候还是会一筹莫展。
因此在学习python的过程中一定要记得多动手写代码,教程只需要看一两遍即可。
👉大厂面试真题👈
我们学习Python必然是为了找到高薪的工作,下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料,并且有阿里大佬给出了权威的解答,刷完这一套面试资料相信大家都能找到满意的工作。
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!