python:beautifulSoup学习(来自学习资料)

罗列问题:
1、beautifulSoup是什么
是一个能够快速从html或者xml文档中获取数据的类库。
官方的说是,能够帮你节省一天或者几天的开发时间。
2、beautifulSoup如何安装
Pip install beautifulSoup4(如果是Python3.x就是用这个)
旧版本:beautifulSoup3
Pip install beautifulSoup
3、beautifulSoup如何使用
本文中只讲解通过beautifulSoup select选择器获取数据
还有很多其他用法,需要单独学习。

Html基础回顾:
这里写图片描述
标签:紧跟着尖括号的内容
类:class
属性:标签中的字段
编号:id

html_doc = """
<html><head><title>The Dormouse's story</title></head>
<body>
<p class="title"><b>The Dormouse's story</b></p>

<p class="story">Once upon a time there were three little sisters; and their names were
<a href="http://example.com/elsie" class="sister" id="link1">Elsie</a>,
<a href="http://example.com/lacie" class="sister" id="link2">Lacie</a> and
<a href="http://example.com/tillie" class="sister" id="link3">Tillie</a>;
and they lived at the bottom of a well.</p>

<p class="story">...</p>
"""

beautifulSoup.select的几种查找数据的方式:

Soup.select(“title”) //通过标签查找
Soup.select(“.sister”) //通过class查找
Soup.select(“#link2”)//通过id查找
Soup.select(“a[href]”) //判断a标签是否有href属性

在python控制台中使用beautifulSoup的部首
1、导入from bs4 import BeautifulSoup
2、创建一个BeautifulSoup的实例

通过标签查找:
这里写图片描述

通过class查找
这里写图片描述

Select返回的值是一个list,需要通过角标获取数据。

通过id查找
这里写图片描述
多个id使用逗号分隔

通过查找

方式一:
属性固定的值
这里写图片描述

方式二:
是否包含属性
这里写图片描述

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
【为什么爬虫?】        1、爬虫入手容易,但是深入较难,如何写出高效率的爬虫,如何写出灵活性高可扩展的爬虫都是一项技术活。另外在爬虫过程中,经常容易遇到被反爬虫,比如字体反爬、IP识别、验证码等,如何层层攻克难点拿到想要的数据,这门课程,你都能到!        2、如果是作为一个其他行业的开发者,比如app开发,web开发,学习爬虫能让你加强对技术的认知,能够开发出更加安全的软件和网站 【课程设计】 一个完整的爬虫程序,无论大小,总体来说可以分成三个步骤,分别是:网络请求:模拟浏览器的行为从网上抓取数据。数据解析:将请求下来的数据进行过滤,提取我们想要的数据。数据存储:将提取到的数据存储到硬盘或者内存中。比如用mysql数据库或者redis等。那么本课程也是按照这几个步骤循序渐进的进行讲解,带领生完整的掌握每个步骤的技术。另外,因为爬虫的多样性,在爬取的过程中可能会发生被反爬、效率低下等。因此我们又增加了两个章节用来提高爬虫程序的灵活性,分别是:爬虫进阶:包括IP代理,多线程爬虫,图形验证码识别、JS加密解密、动态网页爬虫、字体反爬识别等。Scrapy和分布式爬虫:Scrapy框架、Scrapy-redis组件、分布式爬虫等。通过爬虫进阶的知识点我们能应付大量的反爬网站,而Scrapy框架作为一个专业的爬虫框架,使用他可以快速提高我们编写爬虫程序的效率和速度。另外如果一台机器不能满足你的需求,我们可以用分布式爬虫让多台机器帮助你快速爬取数据。 从基础爬虫到商业化应用爬虫,本套课程满足您的所有需求!【课程服务】 专属付费社群+定期答疑
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值