半树的爬虫Day2

全文的重点是针对HTML/XML的3种解析器/方法+对应的3个实战

1.Beautiful Soup
2.Xpath
3.正则表达式

1.Beautiful Soup
Beautiful Soup库是解析、遍历、维护“标签树”的功能库，对应一个HTML/XML文档的全部内容

使用beautifulsoup解析HTML页面。
  
o Beautiful Soup 是一个HTML/XML 的解析器，主要用于解析和提取 HTML/XML 数据。   o 它基于HTML
DOM 的，会载入整个文档，解析整个DOM树，因此时间和内存开销都会大很多，所以性能要低于lxml。   o BeautifulSoup
用来解析 HTML 比较简单，API非常人性化，支持CSS选择器、Python标准库中的HTML解析器，也支持 lxml 的 XML解析器。
  o 虽然说BeautifulSoup4 简单容易比较上手，但是匹配效率还是远远不如正则以及xpath的，一般不推荐使用，推荐正则的使用。

1.安装：使用pip install beautifulsoup4即可快速安装，而且尝试了一下发现jupyter notebook中就可以直接输入进行安装，就不用去cmd搞了。
2.导入code：from bs4 import BeautifulSoup
3.使用方法：**soup = BeautifulSoup(html，‘html.parser’)**soup为 Beautiful Soup的对象（name可替换）。

Beautiful Soup库的基本元素

o Tag 标签，最基本的信息组织单元，分别用<>和</>标明开头和结尾；   
o Name 标签的名字，< p>…

的名字是’p’，格式：< tag>.name;   
o Attributes 标签的属性，字典形式组织，格式：<> tag>.attrs;   
o NavigableString 标签内非属性字符串，<>…</>中字符串，格式：< tag>.string;
o Comment 标签内字符串的注释部分，一种特殊的Comment类型;

####### 代码

导入bs4库

from bs4 import BeautifulSoup
import requests # 抓取页面

r = requests.get('https://python123.io/ws/demo.html') # Demo网址
demo = r.text  # 抓取的数据
print(demo)

1）标签，用soup.< tag>访问获得:
• 当HTML文档中存在多个相同< tag>对应内容时，soup.< tag>返回第一个
2）标签的名字:每个< tag>都有自己的名字，通过soup.< tag>.name获取，字符串类型
3)标签的属性,一个< tag>可以有0或多个属性，字典类型,soup.< tag>.attrs
4)Attributes:标签内非属性字符串,格式：soup.< tag>.string, NavigableString可以跨越多个层次
5）NavigableString:标签内字符串的注释部分，Comment是一种特殊类型(有–>)
6）.prettify()为HTML文本<>及其内容增加更加’\n’,有层次感的输出
7)bs4库将任何HTML输入都变成utf‐8编码Python 3.x默认支持编码是utf‐8,解析无障

基于bs4库的HTML内容的查找方法

• <>.find_all(name, attrs, recursive, string, **kwargs)
  
o 参数：   
o ∙ name : 对标签名称的检索字符串   
o ∙ attrs: 对标签属性值的检索字符串，可标注属性检索   
o ∙recursive: 是否对子孙全部检索，默认True   
o ∙ string: <>…</>中字符串区域的检索字符串 简写：   (…) 等价于 < tag>.find_all(…)   soup(…) 等价于 soup.find_all(…) • 扩展方法：
o <>.find() 搜索且只返回一个结果，同.find_all()参数   
o <>.find_parents()在先辈节点中搜索，返回列表类型，同.find_all()参数   
o <>.find_parent()在先辈节点中返回一个结果，同.find()参数   
o <>.find_next_siblings()在后续平行节点中搜索，返回列表类型，同.find_all()参数   
o <>.find_next_sibling()在后续平行节点中返回一个结果，同.find()参数   
o <>.find_previous_siblings()在前序平行节点中搜索，返回列表类型，同.find_all()参数
o <>.find_previous_sibling()在前序平行节点中返回一个结果，同.find()参数

实战

爬虫实战
• 爬取url：http://www.zuihaodaxue.cn/zuihaodaxuepaiming2019.html • 爬取思路： 1.从网络上获取大学排名网页内容

2.提取网页内容中信息到合适的数据结构（二维数组）-排名，学校名称，总分

3.利用数据结构展示并输出结果

4.从网络上获取大学排名网页内容

5.提取网页内容中信息到合适的数据结构（二维数组）

6.查看网页源代码，观察并定位到需要爬取内容的标签；

7.使用bs4的查找方法提取所需信息-'排名，学校名称，总分

8.利用数据结构展示并输出结果
代码：

# 导入库
import requests
from bs4 import BeautifulSoup
import bs4

# 1.从网络上获取大学排名网页内容
def getHTMLText(url):
    try:
        r = requests.get(url, timeout=30)
        r.raise_for_status()
        r.encoding = r.apparent_encoding
        return r.text
    except:
        return ""

# 2.提取网页内容中信息到合适的数据结构（二维数组）-排名，学校名称，总分
def fillUnivList(ulist, html):
    soup = BeautifulSoup(html, "html.parser")
    for tr in soup.find('tbody').children:
        if isinstance(tr, bs4.element.Tag):
            tds = tr('td')
            # 根据实际提取需要的内容，
            ulist.append([tds[0].string, tds[1].string, tds[3].string])

# 3.利用数据结构展示并输出结果
# 对中英文混排输出问题进行优化:对format()，设定宽度和添加参数chr(12288)
def printUnivList(ulist, num=20):
    tplt = "{0:^10}\t{1:{3}^10}\t{2:^10}"
    print(tplt.format('排名', '学校名称', '总分', chr(12288)))
    for i in range(num):
        u = ulist[i]
        print(tplt.format(u[0], u[1], u[2], chr(12288)))

def main():
    uinfo = []
    url = 'http://www.zuihaodaxue.cn/zuihaodaxuepaiming2019.html'
    html = getHTMLText(url)
    fillUnivList(uinfo, html)
    printUnivList(uinfo, 30)  # 30 univs

main()

我的图片又不能上传了，好烦。。
就看看代码感受一下吧，输出就是前三十名的学校名称及总分。

Xpath

常用的路径

• XPath即为XML路径语言（XML Path Language），它是一种用来确定XML文档中某部分位置的语言。 
• 在XPath中，有七种类型的节点：元素、属性、文本、命名空间、处理指令、注释以及文档（根）节点。   
•XML文档是被作为节点树来对待的。 XPath使用路径表达式在XML文档中选取节点。节点是通过沿着路径选取的。下面列出了最常用的路径表达式：
• nodename 选取此节点的所有子节点。
• / 从根节点选取。   
• //从匹配选择的当前节点选择文档中的节点，而不考虑它们的位置。   
• . 选取当前节点。   
• … 选取当前节点的父节点。   
• @ 选取属性。   
• /text() 提取标签下面的文本内容
o 如：   
o /标签名 逐层提取   
o /标签名 提取所有名为<>的标签
o //标签名[@属性=“属性值”] 提取包含属性为属性值的标签   
o @属性名 代表取某个属性名的属性值

3 使用lxml解析   
• 导入库：from lxml import etree   
• lxml将html文本转成xml对象
o tree = etree.HTML(html)   
• 用户名称tree.xpath(’//div[@class=“auth”]/a/text()’)  
•回复内容：tree.xpath(’//td[@class=“postbody”]’)
因为回复内容中有换行等标签，所以需要用string()来获取数据。
• Xpath中text()，string()，data()的区别如下：   
o text()仅仅返回所指元素的文本内容。  
ostring()函数会得到所指元素的所有节点文本内容，这些文本讲会被拼接成一个字符串。、
odata()大多数时候，data()函数和string()函数通用，而且不建议经常使用data()函数，有数据表明，该函数会影响XPath的性能。

实战：爬取丁香园-用户名和回复内容

• 爬取思路：

获取url的html
lxml解析html
利用Xpath表达式获取user和content
保存爬取的内容:
代码：

# 导入库
from lxml import etree
import requests

url = "http://www.dxy.cn/bbs/thread/626626#626626"

# 1. 获取url的html
req = requests.get(url)
html = req.text

# 2. lxml解析html
tree = etree.HTML(html)

# 3. 利用Xpath表达式获取user和content（完成xpath的语句）
user = tree.xpath('//div[@class="auth"]/a/text()')
# print(user)
content = tree.xpath('//td[@class="postbody"]')

# 4. 保存爬取的内容
results = []
for i in range(0, len(user)):
    # 因为回复内容中有换行等标签，所以需要用string()来获取数据
    results.append(user[i].strip() + ":  " + content[i].xpath('string(.)').strip())

# 打印爬取的结果
for i, result in zip(range(0, len(user)), results):
    print("user" + str(i+1) + "-" + result)
    print("*"*100)

结果还是展示不出来orz

正则表达式

1 为什么使用正则表达式？

典型的搜索和替换操作要求您提供与预期的搜索结果匹配的确切文本。虽然这种技术对于对静态文本执行简单搜索和替换任务可能已经足够了，但它缺乏灵活性，若采用这种方法搜索动态文本，即使不是不可能，至少也会变得很困难。
通过使用正则表达式，可以：

测试字符串内的模式。 例如，可以测试输入字符串，以查看字符串内是否出现电话号码模式或信用卡号码模式。这称为数据验证。 替换文本。
可以使用正则表达式来识别文档中的特定文本，完全删除该文本或者用其他文本替换它。 基于模式匹配从字符串中提取子字符串。
可以查找文档内或输入域内特定的文本。 可以使用正则表达式来搜索和替换标记。 使用正则表达式的优势是什么？ 简洁 •
正则表达式是用来简洁表达一组字符串的表达式 • 正则表达式是一种通用的字符串表达框架 •
正则表达式是一种针对字符串表达“简洁”和“特征”思想的工具 • 正则表达式可以用来判断某字符串的特征归属 正则表达式在文本处理中十分常用：
• 同时查找或替换一组字符串 • 匹配字符串的全部或部分(主要)

2 正则表达式语法

正则表达式语法由字符和操作符构成: • 常用操作符   o . 表示任何单个字符   o [ ] 字符集，对单个字符给出取值范围
，如[abc]表示a、b、c，[a‐z]表示a到z单个字符   o [^ ] 非字符集，对单个字符给出排除范围
，如[^abc]表示非a或b或c的单个字符   o * 前一个字符0次或无限次扩展，如abc* 表示 ab、abc、abcc、abccc等
  o + 前一个字符1次或无限次扩展 ，如abc+ 表示 abc、abcc、abccc等   o ? 前一个字符0次或1次扩展
，如abc? 表示 ab、abc   o | 左右表达式任意一个 ，如abc|def 表示 abc、def   o {m}
扩展前一个字符m次 ，如ab{2}c表示abbc   o {m,n} 扩展前一个字符m至n次（含n）
，如ab{1,2}c表示abc、abbc   o ^ 匹配字符串开头 ，如^abc表示abc且在一个字符串的开头   o $ 匹配字符串结尾
，如abc$表示abc且在一个字符串的结尾   o ( ) 分组标记，内部只能使用 | 操作符
，如(abc)表示abc，(abc|def)表示abc、def   o \d 数字，等价于[0‐9]   o \w
单词字符，等价于[A‐Za‐z0‐9_]

3 正则表达式re库的使用

• 调用方式：import re • re库采用raw string类型表示正则表达式，表示为：r’text’，raw
string是不包含对转义符再次转义的字符串; re库的主要功能函数： • re.search()
在一个字符串中搜索匹配正则表达式的第一个位置，返回match对象   o re.search(pattern, string,
flags=0) • re.match() 从一个字符串的开始位置起匹配正则表达式，返回match对象   o
re.match(pattern, string, flags=0) • re.findall()
搜索字符串，以列表类型返回全部能匹配的子串   o re.findall(pattern, string, flags=0) •
re.split() 将一个字符串按照正则表达式匹配结果进行分割，返回列表类型   o re.split(pattern, string,
maxsplit=0, flags=0) • re.finditer()
搜索字符串，返回一个匹配结果的迭代类型，每个迭代元素是match对象   o re.finditer(pattern, string,
flags=0) • re.sub() 在一个字符串中替换所有匹配正则表达式的子串，返回替换后的字符串   o
re.sub(pattern, repl, string, count=0, flags=0)

o flags : 正则表达式使用时的控制标记：
      re.I --> re.IGNORECASE : 忽略正则表达式的大小写，[A‐Z]能够匹配小写字符
      re.M --> re.MULTILINE : 正则表达式中的^操作符能够将给定字符串的每行当作匹配开始
      re.S --> re.DOTALL : 正则表达式中的.操作符能够匹配所有字符，默认匹配除换行外的所有字符

re库的另一种等价用法（编译）   • regex = re.compile(pattern,
flags=0)：将正则表达式的字符串形式编译成正则表达式对象 re 库的贪婪匹配和最小匹配   • .*
Re库默认采用贪婪匹配，即输出匹配最长的子串   • *? 只要长度输出可能不同的，都可以通过在操作符后增加?变成最小匹配

万众瞩目的淘宝实战

• 爬取思路：

提交商品搜索请求，循环获取页面
对于每个页面，提取商品名称和价格信息
将信息输出到屏幕上

代码：

# 导入包
import requests
import re

# 1. 提交商品搜索请求，循环获取页面
def getHTMLText(url):
    """
    请求获取html，（字符串）
    :param url: 爬取网址
    :return: 字符串
    """
    try:
        # 添加头信息,
        kv = {
            'cookie': 'thw=cn; v=0; t=ab66dffdedcb481f77fd563809639584; cookie2=1f14e41c704ef58f8b66ff509d0d122e; _tb_token_=5e6bed8635536; cna=fGOnFZvieDECAXWIVi96eKju; unb=1864721683; sg=%E4%B8%8B3f; _l_g_=Ug%3D%3D; skt=83871ef3b7a49a0f; cookie1=BqeGegkL%2BLUif2jpoUcc6t6Ogy0RFtJuYXR4VHB7W0A%3D; csg=3f233d33; uc3=vt3=F8dBy3%2F50cpZbAursCI%3D&id2=UondEBnuqeCnfA%3D%3D&nk2=u%2F5wdRaOPk21wDx%2F&lg2=VFC%2FuZ9ayeYq2g%3D%3D; existShop=MTU2MjUyMzkyMw%3D%3D; tracknick=%5Cu4E36%5Cu541B%5Cu4E34%5Cu4E3F%5Cu5929%5Cu4E0B; lgc=%5Cu4E36%5Cu541B%5Cu4E34%5Cu4E3F%5Cu5929%5Cu4E0B; _cc_=WqG3DMC9EA%3D%3D; dnk=%5Cu4E36%5Cu541B%5Cu4E34%5Cu4E3F%5Cu5929%5Cu4E0B; _nk_=%5Cu4E36%5Cu541B%5Cu4E34%5Cu4E3F%5Cu5929%5Cu4E0B; cookie17=UondEBnuqeCnfA%3D%3D; tg=0; enc=2GbbFv3joWCJmxVZNFLPuxUUDA7QTpES2D5NF0D6T1EIvSUqKbx15CNrsn7nR9g%2Fz8gPUYbZEI95bhHG8M9pwA%3D%3D; hng=CN%7Czh-CN%7CCNY%7C156; mt=ci=32_1; alitrackid=www.taobao.com; lastalitrackid=www.taobao.com; swfstore=97213; x=e%3D1%26p%3D*%26s%3D0%26c%3D0%26f%3D0%26g%3D0%26t%3D0%26__ll%3D-1%26_ato%3D0; uc1=cookie16=UtASsssmPlP%2Ff1IHDsDaPRu%2BPw%3D%3D&cookie21=UIHiLt3xThH8t7YQouiW&cookie15=URm48syIIVrSKA%3D%3D&existShop=false&pas=0&cookie14=UoTaGqj%2FcX1yKw%3D%3D&tag=8&lng=zh_CN; JSESSIONID=A502D8EDDCE7B58F15F170380A767027; isg=BMnJJFqj8FrUHowu4yKyNXcd2PXjvpa98f4aQWs-RbDvsunEs2bNGLfj8BYE6lWA; l=cBTDZx2mqxnxDRr0BOCanurza77OSIRYYuPzaNbMi_5dd6T114_OkmrjfF96VjWdO2LB4G2npwJ9-etkZ1QoqpJRWkvP.; whl=-1%260%260%261562528831082',
            'user-agent': 'Mozilla/5.0'
        }
        r = requests.get(url, timeout=30, headers=kv)
        r.raise_for_status()
        r.encoding = r.apparent_encoding
        return r.text
    except:
        return "爬取失败"

# 2. 对于每个页面，提取商品名称和价格信息（完成正则表达式语句）
def parsePage(glist, html):
    '''
    解析网页，搜索需要的信息
    :param glist: 列表作为存储容器
    :param html: 由getHTMLText()得到的
    :return: 商品信息的列表
    '''
    try:
        # 使用正则表达式提取信息
        price_list = re.findall(r'\"view_price\"\:\"[\d\.]*\"', html)
        name_list = re.findall(r'\"raw_title\"\:\".*?\"', html)
        for i in range(len(price_list)):
            price = eval(price_list[i].split(":")[1])  #eval（）在此可以去掉""
            name = eval(name_list[i].split(":")[1])
            glist.append([price, name])
    except:
        print("解析失败")

# 3. 将信息输出到屏幕上
def printGoodList(glist):
    tplt = "{0:^4}\t{1:^6}\t{2:^10}"
    print(tplt.format("序号", "商品价格", "商品名称"))
    count = 0
    for g in glist:
        count = count + 1
        print(tplt.format(count, g[0], g[1]))

# 根据页面url的变化寻找规律，构建爬取url
goods_name = "书包"  # 搜索商品类型
start_url = "https://s.taobao.com/search?q=" + goods_name
info_list = []
page = 3  # 爬取页面数量

count = 0
for i in range(page):
    count += 1
    try:
        url = start_url + "&s=" + str(44 * i)
        html = getHTMLText(url)  # 爬取url
        parsePage(info_list, html) #解析HTML和爬取内容
        print("\r爬取页面当前进度: {:.2f}%".format(count * 100 / page), end="")  # 显示进度条
    except:
        continue

printGoodList(info_list)

对于正则表达式印象最深的是去年做一个联系人数据库时应用到的email和tel的识别、判断。