Task02：bs4、xpath和正则表达式

Beautiful Soup库入门

Beautiful Soup库是解析、遍历、维护“标签树”的功能库，对应一个HTML/XML文档的全部内容

BeautifulSoup类的基本元素:
- Tag 标签，最基本的信息组织单元，分别用<>和</>标明开头和结尾；
- Name 标签的名字，<p>…</p>的名字是'p'，格式：<tag>.name;
- Attributes 标签的属性，字典形式组织，格式：<tag>.attrs;
- NavigableString 标签内非属性字符串，<>…</>中字符串，格式：<tag>.string;
- Comment 标签内字符串的注释部分，一种特殊的Comment类型;

1）标签，用soup.<tag>访问获得:

• 当HTML文档中存在多个相同<tag>对应内容时，soup.<tag>返回第一个

2）标签的名字:每个<tag>都有自己的名字，通过soup.<tag>.name获取，字符串类型

3)标签的属性,一个<tag>可以有0或多个属性，字典类型,soup.<tag>.attrs

4)Attributes:标签内非属性字符串,格式：soup.<tag>.string, NavigableString可以跨越多个层次

5）NavigableString:标签内字符串的注释部分，Comment是一种特殊类型(有-->)

6) .prettify()为HTML文本<>及其内容增加更加’\n’,有层次感的输出 .prettify()可用于标签，方法：<tag>.prettify()

7)bs4库将任何HTML输入都变成utf‐8编码， Python 3.x默认支持编码是utf‐8,解析无障碍

HTML基本格式:<>…</>构成了所属关系，形成了标签的树形结构

• 标签树的下行遍历
  • .contents 子节点的列表，将<tag>所有儿子节点存入列表
  • .children 子节点的迭代类型，与.contents类似，用于循环遍历儿子节点
  • .descendants 子孙节点的迭代类型，包含所有子孙节点，用于循环遍历
• 标签树的上行遍
  • .parent 节点的父亲标签
  • .parents 节点先辈标签的迭代类型，用于循环遍历先辈节点
• 标签树的平行遍历
  • .next_sibling 返回按照HTML文本顺序的下一个平行节点标签
  • .previous_sibling 返回按照HTML文本顺序的上一个平行节点标签
  • .next_siblings 迭代类型，返回按照HTML文本顺序的后续所有平行节点标签
  • .previous_siblings 迭代类型，返回按照HTML文本顺序的前续所有平行节点标签

实践

# 中国大学排名定向爬取

# 导入库
import requests
from bs4 import BeautifulSoup
import bs4
def getHTMLText(url):
    try:
        r = requests.get(url, timeout=30) 
        r.raise_for_status()
        r.encoding = r.apparent_encoding
        return r.text
    except:
        return ""
def fillUnivList(ulist, html):
    soup = BeautifulSoup(html, "html.parser")
    for tr in soup.find('tbody').children: 
        if isinstance(tr, bs4.element.Tag):
            tds = tr('td')
            # 根据实际提取需要的内容，
            ulist.append([tds[0].string, tds[1].string, tds[3].string])  
# 对中英文混排输出问题进行优化:对format()，设定宽度和添加参数chr(12288)
def printUnivList(ulist, num=20):
    tplt = "{0:^10}\t{1:{3}^10}\t{2:^10}"
    print(tplt.format('排名', '学校名称', '总分', chr(12288)))
    for i in range(num):
        u = ulist[i]
        print(tplt.format(u[0], u[1], u[2], chr(12288)))
u_info = [] # 存储爬取结果的容器
url = 'http://www.zuihaodaxue.cn/zuihaodaxuepaiming2019.html'
html = getHTMLText(url)
fillUnivList(u_info, html) # 爬取
# 打印输出30个信息
printUnivList(u_info, num=30) # 打印输出30个信息

xpath

• XPath即为XML路径语言（XML Path Language），它是一种用来确定XML文档中某部分位置的语言。
• 在XPath中，有七种类型的节点：元素、属性、文本、命名空间、处理指令、注释以及文档（根）节点。
• XML文档是被作为节点树来对待的。

XPath使用路径表达式在XML文档中选取节点。节点是通过沿着路径选取的。下面列出了最常用的路径表达式：

• nodename 选取此节点的所有子节点。
• / 从根节点选取。
• // 从匹配选择的当前节点选择文档中的节点，而不考虑它们的位置。
• . 选取当前节点。
• … 选取当前节点的父节点。
• @ 选取属性。
• /text() 提取标签下面的文本内容
  • 如：
  • /标签名 逐层提取
  • /标签名 提取所有名为<>的标签
  • //标签名[@属性=“属性值”] 提取包含属性为属性值的标签
  • @属性名 代表取某个属性名的属性值

使用lxml解析

• 导入库：from lxml import etree

• lxml将html文本转成xml对象

  • tree = etree.HTML(html)

• 用户名称：tree.xpath(’//div[@class=“auth”]/a/text()’)

• 回复内容：tree.xpath(’//td[@class=“postbody”]’) 因为回复内容中有换行等标签，所以需要用string()来获取数据。

  • string()的详细见链接：https://www.cnblogs.com/CYHISTW/p/12312570.html

• Xpath中text()，string()，data()的区别如下：

  • text()仅仅返回所指元素的文本内容。
  • string()函数会得到所指元素的所有节点文本内容，这些文本讲会被拼接成一个字符串。
  • data()大多数时候，data()函数和string()函数通用，而且不建议经常使用data()函数，有数据表明，该函数会影响XPath的性能。

实战

# xpath

# 爬取丁香园-用户名和回复内容
# 导入库
from lxml import etree
import requests

url = "http://www.dxy.cn/bbs/thread/626626#626626"
req = requests.get(url)
html = req.text
tree = etree.HTML(html) 
user = tree.xpath('//div[@class="auth"]/a/text()')
# print(user)
content = tree.xpath('//td[@class="postbody"]')
results = []
for i in range(0, len(user)):
    # print(user[i].strip()+":"+content[i].xpath('string(.)').strip())
    # print("*"*80)
    # 因为回复内容中有换行等标签，所以需要用string()来获取数据
    results.append(user[i].strip() + ":  " + content[i].xpath('string(.)').strip())
# 打印爬取的结果
for i,result in zip(range(0, len(user)),results):
    print("user"+ str(i+1) + "-" + result)
    print("*"*100)

正则表达式 re

典型的搜索和替换操作要求您提供与预期的搜索结果匹配的确切文本。虽然这种技术对于对静态文本执行简单搜索和替换任务可能已经足够了，但它缺乏灵活性，若采用这种方法搜索动态文本，即使不是不可能，至少也会变得很困难。

通过使用正则表达式，可以：

- 测试字符串内的模式。
    例如，可以测试输入字符串，以查看字符串内是否出现电话号码模式或信用卡号码模式。这称为数据验证。
- 替换文本。
    可以使用正则表达式来识别文档中的特定文本，完全删除该文本或者用其他文本替换它。
- 基于模式匹配从字符串中提取子字符串。
    可以查找文档内或输入域内特定的文本。

可以使用正则表达式来搜索和替换标记。

正则表达式语法

正则表达式语法由字符和操作符构成:

• 常用操作符

  • . 表示任何单个字符

  • [ ] 字符集，对单个字符给出取值范围 ，如[abc]表示a、b、c，[a‐z]表示a到z单个字符

  • [^ ] 非字符集，对单个字符给出排除范围 ，如[^abc]表示非a或b或c的单个字符

  • * 前一个字符0次或无限次扩展，如abc* 表示 ab、abc、abcc、abccc等

  • + 前一个字符1次或无限次扩展 ，如abc+ 表示 abc、abcc、abccc等

  • ? 前一个字符0次或1次扩展 ，如abc? 表示 ab、abc

  • | 左右表达式任意一个 ，如abc|def 表示 abc、def

  • {m} 扩展前一个字符m次 ，如ab{2}c表示abbc

  • {m,n} 扩展前一个字符m至n次（含n） ，如ab{1,2}c表示abc、abbc

  • ^ 匹配字符串开头 ，如^abc表示abc且在一个字符串的开头

  • $ 匹配字符串结尾 ，如abc$表示abc且在一个字符串的结尾

  • ( ) 分组标记，内部只能使用 | 操作符 ，如(abc)表示abc，(abc|def)表示abc、def

  • \d 数字，等价于[0‐9]

  • \w 单词字符，等价于[A‐Za‐z0‐9_]

实战

# 淘宝商品比价定向爬虫

# 导入包
import requests
import re
def getHTMLText(url):
    """
    请求获取html，（字符串）
    :param url: 爬取网址
    :return: 字符串
    """
    try:
        # 添加头信息,
        kv = {
            'cookie': '*',  # your cookie
            'user-agent': 'Mozilla/5.0'
        }
        r = requests.get(url, timeout=30, headers=kv)
        # r = requests.get(url, timeout=30)
        # print(r.status_code)
        r.raise_for_status()
        r.encoding = r.apparent_encoding
        return r.text
    except:
        return "爬取失败"
def parsePage(glist, html):
    '''
    解析网页，搜索需要的信息
    :param glist: 列表作为存储容器
    :param html: 由getHTMLText()得到的
    :return: 商品信息的列表
    '''
    try:
        # 使用正则表达式提取信息
        #商品价格
        price_list = re.findall(r'"view_price":"[\d.]*"', html)
        #商品名称
        name_list = re.findall(r'"raw_title":".*?"', html)
        for i in range(len(price_list)):
            price = eval(price_list[i].split(":")[1])  #eval（）在此可以去掉""
            name = eval(name_list[i].split(":")[1])
            glist.append([price, name])
    except:
        print("解析失败")
def printGoodList(glist):
    tplt = "{0:^4}\t{1:^6}\t{2:^10}"
    print(tplt.format("序号", "商品价格", "商品名称"))
    count = 0
    for g in glist:
        count = count + 1
        print(tplt.format(count, g[0], g[1]))
# 根据页面url的变化寻找规律，构建爬取url
goods_name = "书包"  # 搜索商品类型
start_url = "https://s.taobao.com/search?q=" + goods_name
info_list = []
page = 3  # 爬取页面数量
count = 0
for i in range(page):
    count += 1
    try:
        url = start_url + "&s=" + str(44 * i)
        html = getHTMLText(url)  # 爬取url
        parsePage(info_list, html) #解析HTML和爬取内容
        print("\r爬取页面当前进度: {:.2f}%".format(count * 100 / page), end="")  # 显示进度条
    except:
        continue
printGoodList(info_list)