手把手教你利用Python网络爬虫获取APP推广信息，Python面试题2024

2. 使用 fake_useragent ，产生随机的UserAgent进行访问。

需要的库和网址

1、网址，如下所示：

https://www.cpajia.com/index.php?g=Wap&a=searchua

2、需要用到的库：requests、time、lxml、ua

项目实现

---

我们定义get_page方法, 准备url地址和请求头headers,导入对应的库。

import requests

import os

import re

from fake_useragent import UserAgent

from lxml import etree

house_dict = {} #定义一个字典

def get_page(url, page_num):

pass

url = ‘https://www.cpajia.com/index.php?g=Wap&a=search’ #网址

ua = UserAgent(verify_ssl=False) #随机的UserAgent

kv = {

‘User-Agent’: ua.random}

pageList = get_page()

下面介绍一下如何爬取ajax动态加载的网页方法。

翻页时发现它的url并没有改变，无法简单的通过request.get()访问其他页面。据搜索资料，了解到这些网站是通过ajax动态加载技术实现。即可以在不重新加载整个网页的情况下，对网页的某部分进行更新。

通过分析响应请求，模拟响应参数。再通过requests库的request.post()函数去post相对应的参数即可。

具体方法如下：打开开发者工具，快捷键F12，不行就Fn + F12。

<1>标红的箭头network， 在其中可以看到服务器加载过来的资源。

< 2>标红的框框一个过滤器，你可以按照文件格式筛选。

Headers中的request method 中显示我们使用的是POST方法。而且FROM Data 中有一个参数，PageIndex。

利用Form Data 中的数据，编写一个字典，赋值给requests.post()中的data即可。

接下来就可以正常访问和翻页了！

对网站发生请求

import requests

import os

import re

from fake_useragent import UserAgent

from lxml import etree

def get_page(url, page_num):

pageList = []

for i in range(1, page_num + 1):

formdata = {‘PageIndex’: i}

ua = UserAgent(verify_ssl=False)

kv = {‘User-Agent’: ua.random}

pageList = get_page()

对请求到的数据进行处理，具体过程如下所示。

自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数Python工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年Python开发全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上Python开发知识点，真正体系化！

由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新

如果你觉得这些内容对你有帮助，可以添加V获取：vip1024c （备注Python）

一、Python所有方向的学习路线

Python所有方向的技术点做的整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照下面的知识点去找对应的学习资源，保证自己学得较为全面。

二、Python必备开发工具

工具都帮大家整理好了，安装就可直接上手！

三、最新Python学习笔记

当我学到一定基础，有自己的理解能力的时候，会去阅读一些前辈整理的书籍或者手写的笔记资料，这些笔记详细记载了他们对一些技术点的理解，这些理解是比较独到，可以学到不一样的思路。

四、Python视频合集

观看全面零基础学习视频，看视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。

五、实战案例

纸上得来终觉浅，要学会跟着视频一起敲，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

六、面试宝典

简历模板

一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

og.csdnimg.cn/646863996ac44da8af500c049bb72fbd.png#pic_center)

一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
[外链图片转存中…(img-0T9J8LLu-1712839335345)]