网络爬虫学习

2.24
27.第三方库
    (1)jieba库:
        jieba.lcut(s):分割中文网
    (2)beautifulsoup4库:
        安装:pip install bs4/beautifulsoup4
        常用导入方法:
            导入库:    from bs4 import BeautifulSoup
            创建对象:    soup=BeautifulSoup(文本、网页内容,'html.parser')
            输出网页代码:print(soup.prettify())
    (3)requests库:
        安装:pip install requests
        方法:
            r.requests.get('url'):发送请求获取资源对象,并且返回资源对象
            requests.request(代码标签):构造请求
            requests.head():获取网页头信息
        注意:如果访问失败
            r.request.headers:查找本网页的用户代理
        网络爬虫步骤:
            import requests:导入库
            r=requests.get('url'):发送并返回请求资源对象
            print(r.status_code):查看状态码(是否发送成功)
            r.encoding:查看网页编码
            r.apparent_encoding:根据网页内容评估的备用替换头编码
            r.text[-500:]
            r.text[:1000]
            from bs4 import BeautifulSoup
            demo=r.text[:1000]
            soup=BeautifulSoup(文本/网页内容,'html.parser')
            print(soup.prettify())
 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
网络爬虫是一种自动化程序,可以在互联网上自动收集和提取信息。它们可以从网站上自动抓取数据,分析和处理数据,并将其存储到数据库中或使用其他方式进行处理。 Python是一种非常流行的编程语言,它具有易于学习和使用的特点,因此它成为了网络爬虫的一种常用语言。Python提供了许多常用的网络爬虫库和框架,例如BeautifulSoup、Scrapy、Requests等。 在学习网络爬虫之前,我们需要了解一些基本的HTTP协议和HTML语言。HTTP是一种用于在Web浏览器和服务器之间传输数据的协议。HTML是一种用于创建网页的标记语言。 在网络爬虫学习过程中,我们需要了解一些基本的爬虫概念,例如爬虫种类、爬虫流程、爬虫注意事项等。 爬虫种类: 1. 通用爬虫:可以抓取任何网站的数据,例如Google、Bing等搜索引擎。 2. 聚焦爬虫:只抓取特定网站或特定网页的数据,例如淘宝网、百度贴吧等。 3. 增量式爬虫:只抓取新增加的数据,例如每天抓取新闻网站的新闻数据。 爬虫流程: 1. 发送HTTP请求:爬虫程序向目标网站发送HTTP请求,获取网页内容。 2. 解析网页内容:爬虫程序对网页内容进行解析,提取所需数据。 3. 存储数据:爬虫程序将提取的数据存储到数据库或文件中。 爬虫注意事项: 1. 遵守Robots协议:Robots协议是一个标准,用于告诉爬虫程序哪些网页可以抓取,哪些网页不能抓取。 2. 避免频繁访问同一网站:频繁访问同一网站可能会导致网站崩溃,因此需要设置适当的时间间隔。 3. 避免爬虫陷阱:有些网站会设置一些陷阱,例如无限循环的链接,需要注意避免。 总之,学习网络爬虫需要掌握基本的编程知识和网络知识,同时需要了解一些基本的爬虫概念和注意事项。Python提供了许多常用的网络爬虫库和框架,可以帮助我们更加便捷地进行网络爬虫的开发。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值