python爬虫task2_mtop.damai.trade.order.build.h5-CSDN博客

本文链接：https://blog.csdn.net/qq_43518336/article/details/105684626

1，Beautiful Soup库

1.1：支持的解析器：

Python标准库    ：BeautifulSoup(markup, “html.parser”)
lxml HTML 解析器：BeautifulSoup(markup, “lxml”)
lxml XML 解析器 ：BeautifulSoup(markup, [“lxml”, “xml”])：BeautifulSoup(markup, “xml”)
html5lib        ：BeautifulSoup(markup, “html5lib”)

1.2：BeautifulSoup类的基本元素:

Tag 标签，最基本的信息组织单元，分别用<>和</>标明开头和结尾；
Name 标签的名字，

…

的名字是’p’，格式：.name;
Attributes 标签的属性，字典形式组织，格式：.attrs;
NavigableString 标签内非属性字符串，<>…</>中字符串，格式：.string;
Comment 标签内字符串的注释部分，一种特殊的Comment类型

1.3：一些基本操作：

1，访问标签：xxx.xx; (xxx为保存抓取的页面数据的对象，xx为想要访问的标签，若有多个相同对应内容，返回第一个。）
2，获取标签名字：xxx.xx.name
3，获取标签的属性：xxx.xx.attrs
4，获取标签内非属性字符串：xxx.xx.string。实则获取标签内部的文字。
5，prettify()为HTML文本<>及其内容增加更加’\n’,有层次感的输出
.prettify()可用于标签，方法：.prettify()
实例：

from bs4 import BeautifulSoup
import requests # 抓取页面

r = requests.get('https://python123.io/ws/demo.html') # Demo网址
demo = r.text  # 抓取的数据

# 解析HTML页面
example = BeautifulSoup(demo, 'html.parser')  # 抓取的页面数据；bs4的解析器
# 有层次感的输出解析后的HTML页面
print("1.1:",example.a)
print("****************************************************************")
print("2.1:",example.a.name)
print("2.2:",example.a.parent.name)#获取标签a的父亲的名字
print("****************************************************************")
print("3.1:",example.a.attrs)#输出的是字典类型
print("3.2:",example.a.attrs['class'])
print("****************************************************************")
print("4.1:",example.a.string)
print("****************************************************************")
print("5.1:",example.prettify())

结果为：

1.1: <a class="py1" href="http://www.icourse163.org/course/BIT-268001" id="link1">Basic Python</a>
****************************************************************
2.1: a
2.2: p
****************************************************************
3.1: {'class': ['py1'], 'href': 'http://www.icourse163.org/course/BIT-268001', 'id': 'link1'}
3.2: ['py1']
****************************************************************
4.1: Basic Python
****************************************************************
5.1: <html>
 <head>
  <title>
   This is a python demo page
  </title>
 </head>
 <body>
  <p class="title">
   <b>
    The demo python introduces several python courses.
   </b>
  </p>
  <p class="course">
   Python is a wonderful general-purpose programming language. You can learn Python from novice to professional by tracking the following courses:
   <a class="py1" href="http://www.icourse163.org/course/BIT-268001" id="link1">
    Basic Python
   </a>
   and
   <a class="py2" href="http://www.icourse163.org/course/BIT-1001870001" id="link2">
    Advanced Python
   </a>
   .
  </p>
 </body>
</html>

1.4基于bs4库的HTML内容遍历方法

TML基本格式:<>…</>构成了所属关系，形成了标签的树形结构
标签树的下行遍历
.contents 子节点的列表，将所有儿子节点存入列表
.children 子节点的迭代类型，与.contents类似，用于循环遍历儿子节点
.descendants 子孙节点的迭代类型，包含所有子孙节点，用于循环遍历
标签树的上行遍
.parent 节点的父亲标签
.parents 节点先辈标签的迭代类型，用于循环遍历先辈节点
标签树的平行遍历
.next_sibling 返回按照HTML文本顺序的下一个平行节点标签
.previous_sibling 返回按照HTML文本顺序的上一个平行节点标签
.next_siblings 迭代类型，返回按照HTML文本顺序的后续所有平行节点标签
.previous_siblings 迭代类型，返回按照HTML文本顺序的前续所有平行节点标签
实例：

print(soup.contents)# 获取整个标签树的儿子节点
print(soup.body.contents)#返回标签树的body标签下的节点
print(soup.head)#返回head标签
for child in soup.body.children:#遍历儿子节点
    print(child)

for child in soup.body.descendants:#遍历子孙节点
    print(child)

for parent in soup.a.parents: # 遍历先辈的信息
    if parent is None:
        print(parent)
    else:
        print(parent.name)
print(soup.a.next_sibling)#a标签的下一个标签
print(soup.a.next_sibling.next_sibling)#a标签的下一个标签的下一个标签
print(soup.a.previous_sibling)#a标签的前一个标签
print(soup.a.previous_sibling.previous_sibling)#a标签的前一个标签的前一个标签

for sibling in soup.a.next_siblings:#遍历后续节点
    print(sibling)

for sibling in soup.a.previous_sibling:#遍历之前的节点
    print(sibling)

1.5：基于bs4库的HTML内容的查找方法

<>.find_all(name, attrs, recursive, string, **kwargs)
参数：
∙ name : 对标签名称的检索字符串
∙ attrs: 对标签属性值的检索字符串，可标注属性检索
∙ recursive: 是否对子孙全部检索，默认True
∙ string: <>…</>中字符串区域的检索字符串
简写：
(…) 等价于 .find_all(…)
soup(…) 等价于 soup.find_all(…)

扩展方法：
<>.find() 搜索且只返回一个结果，同.find_all()参数
<>.find_parents() 在先辈节点中搜索，返回列表类型，同.find_all()参数
<>.find_parent() 在先辈节点中返回一个结果，同.find()参数
<>.find_next_siblings() 在后续平行节点中搜索，返回列表类型，同.find_all()参数
<>.find_next_sibling() 在后续平行节点中返回一个结果，同.find()参数
<>.find_previous_siblings() 在前序平行节点中搜索，返回列表类型，同.find_all()参数
<>.find_previous_sibling() 在前序平行节点中返回一个结果，同.find()参数

1.6实战：中国大学排名定向爬取

# -*- coding: utf-8 -*-
import requests
from bs4 import BeautifulSoup
import bs4

r=requests.get("http://www.zuihaodaxue.cn/zuihaodaxuepaiming2019.html")
r.encoding = r.apparent_encoding
demo=r.text
soup=BeautifulSoup(demo,"html.parser")
ulist=[]
for tr in soup.find("tbody").children:
    if isinstance(tr, bs4.element.Tag):
        tds=tr('td')
        ulist.append([tds[0].string, tds[1].string, tds[3].string])

tplt = "{0:^10}\t{1:{3}^10}\t{2:^10}"
print(tplt.format("排名","学校名称","总分",chr(12288)))
for i in range(100):
    u=ulist[i]
    print(tplt.format(u[0], u[1], u[2], chr(12288)))

2，xpath

2.1：Xpath常用的路径表达式：

XPath即为XML路径语言（XML Path Language），它是一种用来确定XML文档中某部分位置的语言。
在XPath中，有七种类型的节点：元素、属性、文本、命名空间、处理指令、注释以及文档（根）节点。
XML文档是被作为节点树来对待的。

XPath使用路径表达式在XML文档中选取节点。节点是通过沿着路径选取的。下面列出了最常用的路径表达式：
nodename ：选取此节点的所有子节点。

/ ：从根节点选取。

// ：从匹配选择的当前节点选择文档中的节点，而不考虑它们的位置。

. ：选取当前节点。

… ：选取当前节点的父节点。

@ :选取属性。

/text() :提取标签下面的文本内容

如：
/标签名逐层提取
/标签名提取所有名为<>的标签
//标签名[@属性=“属性值”] 提取包含属性为属性值的标签
@属性名代表取某个属性名的属性值

2.2:实战：爬取丁香园-用户名和回复内容

按F12后可看到可看到用户名及回复内容如下：
在这里插入图片描述

由此可以给出
用户名称：tree.xpath(’//div[@class=“auth”]/a/text()’)
回复内容：tree.xpath(’//td[@class=“postbody”]’)
代码如下：

from lxml import etree
import requests

url = "http://www.dxy.cn/bbs/thread/626626#626626"
req = requests.get(url)
html = req.text
tree = etree.HTML(html) #用lxml解析html
user =tree.xpath('//div[@class="auth"]/a/text()')
content = tree.xpath('//td[@class="postbody"]')
for i in range(0, len(user)):
    # 因为回复内容中有换行等标签，所以需要用string()来获取数据
    print(user[i].strip() + ":  " + content[i].xpath('string(.)').strip())
    print("*"*100)

3.正则表达式

3.1：基本语法：

在这里插入图片描述

3.2：re库的主要功能函数：

在这里插入图片描述

3.3，实战：淘宝商品比价定向爬虫

1，Cookie，指某些网站为了辨别用户身份、进行session跟踪而储存在用户本地终端上的数据（通常经过加密）。
比如说有些网站需要登录后才能访问某个页面，在登录之前，你想抓取某个页面内容是不允许的。那么我们可以利用Urllib库保存我们登录的Cookie，然后再抓取其他页面,这样就达到了我们的目的。
2，寻找cookie
1.打开你需要找的网站
2.登录账号密码
3.打开F12并刷新
4.点击DOC里面的文件
5.在文件内的cookie可以找到
6.在Headers也可以找到完整的cookie

import requests
import re

def getHTMLText(url):
    """
    请求获取html，（字符串）
    :param url: 爬取网址
    :return: 字符串
    """
    try:
        # 添加头信息,
        kv = {
            'cookie': 'thw=cn; v=0; t=ab66dffdedcb481f77fd563809639584; cookie2=1f14e41c704ef58f8b66ff509d0d122e; _tb_token_=5e6bed8635536; cna=fGOnFZvieDECAXWIVi96eKju; unb=1864721683; sg=%E4%B8%8B3f; _l_g_=Ug%3D%3D; skt=83871ef3b7a49a0f; cookie1=BqeGegkL%2BLUif2jpoUcc6t6Ogy0RFtJuYXR4VHB7W0A%3D; csg=3f233d33; uc3=vt3=F8dBy3%2F50cpZbAursCI%3D&id2=UondEBnuqeCnfA%3D%3D&nk2=u%2F5wdRaOPk21wDx%2F&lg2=VFC%2FuZ9ayeYq2g%3D%3D; existShop=MTU2MjUyMzkyMw%3D%3D; tracknick=%5Cu4E36%5Cu541B%5Cu4E34%5Cu4E3F%5Cu5929%5Cu4E0B; lgc=%5Cu4E36%5Cu541B%5Cu4E34%5Cu4E3F%5Cu5929%5Cu4E0B; _cc_=WqG3DMC9EA%3D%3D; dnk=%5Cu4E36%5Cu541B%5Cu4E34%5Cu4E3F%5Cu5929%5Cu4E0B; _nk_=%5Cu4E36%5Cu541B%5Cu4E34%5Cu4E3F%5Cu5929%5Cu4E0B; cookie17=UondEBnuqeCnfA%3D%3D; tg=0; enc=2GbbFv3joWCJmxVZNFLPuxUUDA7QTpES2D5NF0D6T1EIvSUqKbx15CNrsn7nR9g%2Fz8gPUYbZEI95bhHG8M9pwA%3D%3D; hng=CN%7Czh-CN%7CCNY%7C156; mt=ci=32_1; alitrackid=www.taobao.com; lastalitrackid=www.taobao.com; swfstore=97213; x=e%3D1%26p%3D*%26s%3D0%26c%3D0%26f%3D0%26g%3D0%26t%3D0%26__ll%3D-1%26_ato%3D0; uc1=cookie16=UtASsssmPlP%2Ff1IHDsDaPRu%2BPw%3D%3D&cookie21=UIHiLt3xThH8t7YQouiW&cookie15=URm48syIIVrSKA%3D%3D&existShop=false&pas=0&cookie14=UoTaGqj%2FcX1yKw%3D%3D&tag=8&lng=zh_CN; JSESSIONID=A502D8EDDCE7B58F15F170380A767027; isg=BMnJJFqj8FrUHowu4yKyNXcd2PXjvpa98f4aQWs-RbDvsunEs2bNGLfj8BYE6lWA; l=cBTDZx2mqxnxDRr0BOCanurza77OSIRYYuPzaNbMi_5dd6T114_OkmrjfF96VjWdO2LB4G2npwJ9-etkZ1QoqpJRWkvP.; whl=-1%260%260%261562528831082',
            'user-agent': 'Mozilla/5.0'
        }
        r = requests.get(url, timeout=30, headers=kv)
        r.raise_for_status()
        r.encoding = r.apparent_encoding
        return r.text
    except:
        return "爬取失败"

def parsePage(glist, html):
    '''
    解析网页，搜索需要的信息
    :param glist: 列表作为存储容器
    :param html: 由getHTMLText()得到的
    :return: 商品信息的列表
    '''
    try:
        # 使用正则表达式提取信息
        price_list = re.findall(r'\"view_price\"\:\"[\d\.]*\"', html)
        name_list = re.findall(r'\"raw_title\"\:\".*?\"', html)
        for i in range(len(price_list)):
            price = eval(price_list[i].split(":")[1])  #eval（）在此可以去掉""
            name = eval(name_list[i].split(":")[1])
            glist.append([price, name])
    except:
        print("解析失败")

def printGoodList(glist):
    tplt = "{0:^4}\t{1:^6}\t{2:^10}"
    print(tplt.format("序号", "商品价格", "商品名称"))
    count = 0
    for g in glist:
        count = count + 1
        print(tplt.format(count, g[0], g[1]))

# 根据页面url的变化寻找规律，构建爬取url
goods_name = "书包"  # 搜索商品类型
start_url = "https://s.taobao.com/search?q=" + goods_name
info_list = []
page = 3  # 爬取页面数量
count = 0
for i in range(page):
    count += 1
    try:
        url = start_url + "&s=" + str(44 * i)
        html = getHTMLText(url)  # 爬取url
        parsePage(info_list, html) #解析HTML和爬取内容
        print("\r爬取页面当前进度: {:.2f}%".format(count * 100 / page), end="")  # 显示进度条
    except:
        continue
printGoodList(info_list)