bs4进行数据解析

bs4数据解析的方法

1.标签定位

2.提取标签、标签属性中的存储的数据值

bs4数据解析的原理

1.实例化一个BeautifulSoup对象，并且将页面源代码数据加载到该对象中

2.通过调用BeautifulSoup对象中相关的属性或者方法进行标签定位和数据提取

如何实例化BeautifulSoup对象

from bs4 import BeautifulSoup

1.对象的实例化

mothod1:将本地的html文档中的数据加载到该对象中

                               fp=open('./test.html','r',encoding='utf-8')

                               soup = BeautifulSoup(fp,'lxml')

mothod2:将互联网上获取的页面源码加载到该对象中

                               page_text = response.text

                               soup = BeatifulSoup(page_text,'lxml')

2.提供用于数据解析的方法和属性

--- soup.tagName：返回的是文档中第一次出现的tagName对应的标签

----soup.find():

       find('tagName'):等同于soup.div

        属性定位：soup.find('div',class_/id/attr='song')

                          soup.find_all('tagName'):返回符合要求的所有标签

----select:

         select('某种选择器（id，class，标签...选择器）')，返回的是一个列表

         层级选择器：使用命令soup.select('.tang > ul > li > a')[0]或者soup.select('.tang > ul  a')[0]即可取出下面画红线部分的内容 

注： >表示一个层级，空格表示多个层级

 ----获取标签之间的文本数据：

        --soup.a.text/string/get_text()     

        --text/get_text():可以获取某一个标签中所有的文本内容

        --string：只可以获取该标签下面直系的文本内容

  -----获取标签中的属性值：
         --soup.a['href']