Python Requests库源码分析

1. Requests库简介

    书籍是人类进步的阶梯,源码是程序员进步的阶梯。为了进步,我们就要不断地阅读源码,提升自己的技术水平。今天我们来剖析一下Python的Requests库。

    Requests库是Python代码中用来发送HTTP请求非常好用的一个库。引用其作者的话说是:HTTP for Humans。以前在开发过程中也使用过Requests库,感觉确实很好用。源码之前,了无秘密,所以今天我们就来分析一下其源码,看看Requests这么好用的秘密。

    本文主要分为以下几个内容:

    1.Requests库源码的目录结构

    2.Requests库请求流程

    3.Requests库中重要的类分析

    4.Requests库分析总结

2. Requests库源码目录结构

 

各个文件作用:

文件名

作用

__init__.py

import了对外暴露的变量名称

检查urllib3,chardet,cryptography

库的版本

silent了urllib3的DependencyWarning

设置logging信息。

__version__.py

  • 2
    点赞
  • 34
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
以下是一个使用 Python 进行爬虫和数据分析的招聘网站源码示例: ```python import requests from bs4 import BeautifulSoup import pandas as pd # 定义爬虫函数 def get_job_list(url): response = requests.get(url) soup = BeautifulSoup(response.text, 'html.parser') jobs = soup.find_all('div', {'class': 'job-primary'}) job_list = [] for job in jobs: try: title = job.find('div', {'class': 'job-title'}).text.strip() except: title = '' try: salary = job.find('span', {'class': 'red'}).text.strip() except: salary = '' try: company = job.find('div', {'class': 'company-text'}).a.text.strip() except: company = '' try: location = job.find('div', {'class': 'job-address'}).text.strip() except: location = '' job_list.append([title, salary, company, location]) return job_list # 爬取数据 url = 'https://www.zhipin.com/c100010000/?query=Python&page={}' job_list = [] for i in range(1, 11): url_page = url.format(i) job_list += get_job_list(url_page) # 转换数据为 DataFrame 格式 df = pd.DataFrame(job_list, columns=['Title', 'Salary', 'Company', 'Location']) # 数据清洗和处理 df.drop_duplicates(inplace=True) df.reset_index(drop=True, inplace=True) df['Salary_min'] = df.Salary.apply(lambda x: x.split('-')[0] if '-' in x else x) df['Salary_max'] = df.Salary.apply(lambda x: x.split('-')[1] if '-' in x else x) df['Salary_min'] = df.Salary_min.apply(lambda x: x.replace('K', '000').replace('以上', '')) df['Salary_max'] = df.Salary_max.apply(lambda x: x.replace('K', '000').replace('以上', '')) df['Salary_min'] = pd.to_numeric(df.Salary_min) df['Salary_max'] = pd.to_numeric(df.Salary_max) df['Salary_avg'] = (df.Salary_min + df.Salary_max) / 2 df['Location'] = df.Location.apply(lambda x: x.split('·')[0]) # 数据分析 location_group = df.groupby('Location')['Title'].count().reset_index().sort_values(by='Title', ascending=False) salary_group = df.groupby('Location')['Salary_avg'].mean().reset_index().sort_values(by='Salary_avg', ascending=False) # 结果输出 print('地区招聘数量排名:\n', location_group.head(10)) print('\n地区薪资水平排名:\n', salary_group.head(10)) ``` 这个示例使用 `requests` 和 `BeautifulSoup` 进行网页爬取和解析,然后使用 `pandas` 将数据转换为 DataFrame 格式进行清洗和处理,最后使用 DataFrame 的 groupby() 函数进行数据分析。输出结果为地区招聘数量排名和地区薪资水平排名。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值