python爬虫（二）

最新推荐文章于 2022-12-08 22:37:07 发布
最新推荐文章于 2022-12-08 22:37:07 发布
阅读量1.3k 收藏 1
点赞数
分类专栏： 爬虫 文章标签： python 正则表达式
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/a6368533/article/details/105692071
版权

一、Beautiful Soup

1. 基础

  1. Beautiful Soup库的理解：
    Beautiful Soup库是解析、遍历、维护“标签树”的功能库，对应一个HTML/XML文档的全部内容

  2. BeautifulSoup类的基本元素:

    • Tag 标签，最基本的信息组织单元，分别用<>和</>标明开头和结尾；
    • Name 标签的名字，<p>…</p>的名字是'p'，格式：<tag>.name;
    • Attributes 标签的属性，字典形式组织，格式：<tag>.attrs;
    • NavigableString 标签内非属性字符串，<>…</>中字符串，格式：<tag>.string;
    • Comment 标签内字符串的注释部分，一种特殊的Comment类型;
# 导入bs4库
from bs4 import BeautifulSoup
import requests # 抓取页面

r = requests.get('https://python123.io/ws/demo.html') # Demo网址
demo = r.text  # 抓取的数据
demo
# 解析HTML页面
soup = BeautifulSoup(demo, 'html.parser')  # 抓取的页面数据；bs4的解析器
# 有层次感的输出解析后的HTML页面
print(soup.prettify())

demo

1）标签，用soup.访问获得:
  • 当HTML文档中存在多个相同对应内容时，soup.返回第一个
2）标签的名字:每个都有自己的名字，通过soup..name获取，字符串类型
3)标签的属性,一个可以有0或多个属性，字典类型,soup..attrs
4)Attributes:标签内非属性字符串,格式：soup..string, NavigableString可以跨越多个层次
5）NavigableString:标签内字符串的注释部分，Comment是一种特殊类型(有–>)
6) .prettify()为HTML文本<>及其内容增加更加’\n’,有层次感的输出

.prettify()可用于标签，方法：<tag>.prettify()

7)bs4库将任何HTML输入都变成utf‐8编码

Python 3.x默认支持编码是utf‐8,解析无障碍

2.基于bs4库的HTML内容遍历方法

HTML基本格式:<>…</>构成了所属关系，形成了标签的树形结构

  • 标签树的下行遍历
    • .contents 子节点的列表，将<tag>所有儿子节点存入列表
    • .children 子节点的迭代类型，与.contents类似，用于循环遍历儿子节点
    • .descendants 子孙节点的迭代类型，包含所有子孙节点，用于循环遍历
  • 标签树的上行遍
    • .parent 节点的父亲标签
    • .parents 节点先辈标签的迭代类型，用于循环遍历先辈节点
  • 标签树的平行遍历
    • .next_sibling 返回按照HTML文本顺序的下一个平行节点标签
    • .previous_sibling 返回按照HTML文本顺序的上一个平行节点标签
    • .next_siblings 迭代类型，返回按照HTML文本顺序的后续所有平行节点标签
    • .previous_siblings 迭代类型，返回按照HTML文本顺序的前续所有平行节点标签

3.基于bs4库的HTML内容的查找方法

  • <>.find_all(name, attrs, recursive, string, **kwargs)
    • 参数：
    • ∙ name : 对标签名称的检索字符串
    • ∙ attrs: 对标签属性值的检索字符串，可标注属性检索
    • ∙ recursive: 是否对子孙全部检索，默认True
    • ∙ string: <>…</>中字符串区域的检索字符串
      • 简写：
      • <tag>(…) 等价于 <tag>.find_all(…)
      • soup(…) 等价于 soup.find_all(…)
  • 扩展方法：
    • <>.find() 搜索且只返回一个结果，同.find_all()参数
    • <>.find_parents() 在先辈节点中搜索，返回列表类型，同.find_all()参数
    • <>.find_parent() 在先辈节点中返回一个结果，同.find()参数
    • <>.find_next_siblings() 在后续平行节点中搜索，返回列表类型，同.find_all()参数
    • <>.find_next_sibling() 在后续平行节点中返回一个结果，同.find()参数
    • <>.find_previous_siblings() 在前序平行节点中搜索，返回列表类型，同.find_all()参数
    • <>.find_previous_sibling() 在前序平行节点中返回一个结果，同.find()参数

备注

如果出现乱码，要先查看原来的解码方式，print(r.encoding).对乱码进行还原，按照其错误的解码方式编码，还原成错误解码前的样子，再使用正确的 utf-8解码。

r = requests.get('http://www.zuihaodaxue.cn/zuihaodaxuepaiming2019.html')
demo = r.text
# print(r.encoding)
demo = demo.encode('ISO-8859-1')
demo.decode('utf-8')
soup = BeautifulSoup(demo,'html.parser')
soup.prettify()

example

从网络上获取大学排名网页内容

r = requests.get('http://www.zuihaodaxue.cn/zuihaodaxuepaiming2019.html')
demo = r.text
# print(r.encoding)
demo = demo.encode('ISO-8859-1')
demo.decode('utf-8')
soup = BeautifulSoup(demo,'html.parser')
# soup.prettify()
messages = soup.tbody.find_all('tr','alt')
ans = []

i = 0
for i,message in enumerate(messages):
#     print(message.contents)
#     print(message.find('td').string)
#     print(message.find('td').find_next_sibling('td').string)
#     print(message.find('td').find_next_sibling('td').find_next_sibling('td').string)
#     print(message.find('td').find_next_sibling('td').find_next_sibling('td').find_next_sibling('td').string)
    if i < 30:
        temp = []
        temp.append(message.find('td').string)
        temp.append(message.find('td').find_next_sibling('td').string)
        temp.append(message.find('td').find_next_sibling('td').find_next_sibling('td').find_next_sibling('td').string)
        ans.append(temp)
    else:
        break
print(ans)

官方代码

import requests
from bs4 import BeautifulSoup
import bs4

def getHTMLText(url):
    try:
        r = requests.get(url,timeout = 30)
        print(r.raise_for_status())
        r.encoding = r.apparent_encoding
        return r.text
    except:
        return ''
        
def fillUnivList(ulist,html):
    soup = BeautifulSoup(html,'html.parser')
    for tr in soup.find('tbody').children:
        if isinstance(tr,bs4.element.Tag):
            tds = tr('td')
            ulist.append([tds[0].string, tds[1].string, tds[3].string])       

def printUnivList(ulist, num=20):
    tplt = "{0:^10}\t{1:{3}^10}\t{2:^10}"
    print(tplt.format('排名', '学校名称', '总分', chr(12288)))
    for i in range(num):
        u = ulist[i]
        print(tplt.format(u[0], u[1], u[2], chr(12288)))   

u_info = [] # 存储爬取结果的容器
url = 'http://www.zuihaodaxue.cn/zuihaodaxuepaiming2019.html'
html = getHTMLText(url)
fillUnivList(u_info, html)
printUnivList(u_info, num=30)

ans

Xpath

2.2.1 学习目标：

  1. 学习xpath，使用lxml+xpath提取内容。

  2. 使用xpath提取丁香园论坛的回复内容。

2.2.2 Xpath常用的路径表达式：

  • XPath即为XML路径语言（XML Path Language），它是一种用来确定XML文档中某部分位置的语言。
  • 在XPath中，有七种类型的节点：元素、属性、文本、命名空间、处理指令、注释以及文档（根）节点。
  • XML文档是被作为节点树来对待的。

XPath使用路径表达式在XML文档中选取节点。节点是通过沿着路径选取的。下面列出了最常用的路径表达式：

  • nodename 选取此节点的所有子节点。

  • / 从根节点选取。

  • // 从匹配选择的当前节点选择文档中的节点，而不考虑它们的位置。

  • . 选取当前节点。

  • … 选取当前节点的父节点。

  • @ 选取属性。

  • /text() 提取标签下面的文本内容

    • 如：
    • /标签名 逐层提取
    • /标签名 提取所有名为<>的标签
    • //标签名[@属性=“属性值”] 提取包含属性为属性值的标签
    • @属性名 代表取某个属性名的属性值

  • 详细学习：https://www.cnblogs.com/gaojun/archive/2012/08/11/2633908.html

2.2.3 使用lxml解析

  • 导入库：from lxml import etree

  • lxml将html文本转成xml对象

    • tree = etree.HTML(html)

  • 用户名称：tree.xpath(’//div[@class=“auth”]/a/text()’)

  • 回复内容：tree.xpath(’//td[@class=“postbody”]’) 因为回复内容中有换行等标签，所以需要用string()来获取数据。

    • string()的详细见链接：https://www.cnblogs.com/CYHISTW/p/12312570.html

  • Xpath中text()，string()，data()的区别如下：

    • text()仅仅返回所指元素的文本内容。
    • string()函数会得到所指元素的所有节点文本内容，这些文本讲会被拼接成一个字符串。
    • data()大多数时候，data()函数和string()函数通用，而且不建议经常使用data()函数，有数据表明，该函数会影响XPath的性能。

2.2.3 使用lxml解析

  • 导入库：from lxml import etree

  • lxml将html文本转成xml对象

    • tree = etree.HTML(html)

  • 用户名称：tree.xpath(’//div[@class=“auth”]/a/text()’)

  • 回复内容：tree.xpath(’//td[@class=“postbody”]’) 因为回复内容中有换行等标签，所以需要用string()来获取数据。

    • string()的详细见链接：https://www.cnblogs.com/CYHISTW/p/12312570.html

  • Xpath中text()，string()，data()的区别如下：

    • text()仅仅返回所指元素的文本内容。
    • string()函数会得到所指元素的所有节点文本内容，这些文本讲会被拼接成一个字符串。
    • data()大多数时候，data()函数和string()函数通用，而且不建议经常使用data()函数，有数据表明，该函数会影响XPath的性能。

2.2.4 实战：爬取丁香园-用户名和回复内容

  • 爬取思路：
    1. 获取url的html
    2. lxml解析html
    3. 利用Xpath表达式获取user和content
    4. 保存爬取的内容
# 导入库
from lxml import etree
import requests

url = "http://www.dxy.cn/bbs/thread/626626#626626"

req = requests.get(url)
html = req.text
# html

tree = etree.HTML(html) 
# tree

user = tree.xpath('//div[@class="auth"]/a/text()')
print(user)
content = tree.xpath('//td[@class="postbody"]')

results = []
for i in range(0, len(user)):
    print(user[i].strip()+":"+content[i].xpath('string(.)').strip())
    # print("*"*80)
    # 因为回复内容中有换行等标签，所以需要用string()来获取数据
    results.append(user[i].strip() + ":  " + content[i].xpath('string(.)').strip())

# 打印爬取的结果
for i,result in zip(range(0, len(user)),results):
    print("user"+ str(i+1) + "-" + result)
    print("*"*100)

正则表达式

2.3.1 为什么使用正则表达式？

典型的搜索和替换操作要求您提供与预期的搜索结果匹配的确切文本。虽然这种技术对于对静态文本执行简单搜索和替换任务可能已经足够了，但它缺乏灵活性，若采用这种方法搜索动态文本，即使不是不可能，至少也会变得很困难。

通过使用正则表达式，可以：

- 测试字符串内的模式。
    例如，可以测试输入字符串，以查看字符串内是否出现电话号码模式或信用卡号码模式。这称为数据验证。
- 替换文本。
    可以使用正则表达式来识别文档中的特定文本，完全删除该文本或者用其他文本替换它。
- 基于模式匹配从字符串中提取子字符串。
    可以查找文档内或输入域内特定的文本。

可以使用正则表达式来搜索和替换标记。

使用正则表达式的优势是什么？ 简洁
  • 正则表达式是用来简洁表达一组字符串的表达式
  • 正则表达式是一种通用的字符串表达框架
  • 正则表达式是一种针对字符串表达“简洁”和“特征”思想的工具
  • 正则表达式可以用来判断某字符串的特征归属
正则表达式在文本处理中十分常用：
  • 同时查找或替换一组字符串
  • 匹配字符串的全部或部分(主要)

2.3.2 正则表达式语法

正则表达式语法由字符和操作符构成:

  • 常用操作符

    • . 表示任何单个字符

    • [ ] 字符集，对单个字符给出取值范围 ，如[abc]表示a、b、c，[a‐z]表示a到z单个字符

    • [^ ] 非字符集，对单个字符给出排除范围 ，如[^abc]表示非a或b或c的单个字符

    • * 前一个字符0次或无限次扩展，如abc* 表示 ab、abc、abcc、abccc等

    • + 前一个字符1次或无限次扩展 ，如abc+ 表示 abc、abcc、abccc等

    • ? 前一个字符0次或1次扩展 ，如abc? 表示 ab、abc

    • | 左右表达式任意一个 ，如abc|def 表示 abc、def

    • {m} 扩展前一个字符m次 ，如ab{2}c表示abbc

    • {m,n} 扩展前一个字符m至n次（含n） ，如ab{1,2}c表示abc、abbc

    • ^ 匹配字符串开头 ，如^abc表示abc且在一个字符串的开头

    • $ 匹配字符串结尾 ，如abc$表示abc且在一个字符串的结尾

    • ( ) 分组标记，内部只能使用 | 操作符 ，如(abc)表示abc，(abc|def)表示abc、def

    • \d 数字，等价于[0‐9]

    • \w 单词字符，等价于[A‐Za‐z0‐9_]

2.3.3 正则表达式re库的使用

  • 调用方式：import re
  • re库采用raw string类型表示正则表达式，表示为：r’text’，raw string是不包含对转义符再次转义的字符串;
re库的主要功能函数：
  • re.search() 在一个字符串中搜索匹配正则表达式的第一个位置，返回match对象
    • re.search(pattern, string, flags=0)
  • re.match() 从一个字符串的开始位置起匹配正则表达式，返回match对象
    • re.match(pattern, string, flags=0)
  • re.findall() 搜索字符串，以列表类型返回全部能匹配的子串
    • re.findall(pattern, string, flags=0)
  • re.split() 将一个字符串按照正则表达式匹配结果进行分割，返回列表类型
    • re.split(pattern, string, maxsplit=0, flags=0)
  • re.finditer() 搜索字符串，返回一个匹配结果的迭代类型，每个迭代元素是match对象
    • re.finditer(pattern, string, flags=0)
  • re.sub() 在一个字符串中替换所有匹配正则表达式的子串，返回替换后的字符串

    • re.sub(pattern, repl, string, count=0, flags=0)

    • flags : 正则表达式使用时的控制标记：

      • re.I --> re.IGNORECASE : 忽略正则表达式的大小写，[A‐Z]能够匹配小写字符
      • re.M --> re.MULTILINE : 正则表达式中的^操作符能够将给定字符串的每行当作匹配开始
      • re.S --> re.DOTALL : 正则表达式中的.操作符能够匹配所有字符，默认匹配除换行外的所有字符
re库的另一种等价用法（编译）
  • regex = re.compile(pattern, flags=0)：将正则表达式的字符串形式编译成正则表达式对象
re 库的贪婪匹配和最小匹配
  • .* Re库默认采用贪婪匹配，即输出匹配最长的子串
  • *? 只要长度输出可能不同的，都可以通过在操作符后增加?变成最小匹配

2.3.4 实战：淘宝商品比价定向爬虫

  • 爬取网址：https://s.taobao.com/search?q=书包&js=1&stats_click=search_radio_all%25
  • 爬取思路：
    1. 提交商品搜索请求，循环获取页面
    2. 对于每个页面，提取商品名称和价格信息
    3. 将信息输出到屏幕上
# 导入包
import requests
import re

def getHTMLText(url):
    """
    请求获取html，（字符串）
    :param url: 爬取网址
    :return: 字符串
    """
    try:
        # 添加头信息,
        kv = {
            'cookie':'_samesite_flag_=true; cookie2=1f0edcfb33cb1702e5245acc8e74cd5e; t=83e74524f31741a421abf7531261bbd0; _tb_token_=ebdb836ffe67e; cna=V1BzFpdM0wMCATrCqFGPOzV1; sgcookie=EmaWF%2F03kKPUjOlRWENX0; unb=2126547308; uc3=nk2=F5RMECb3hGhVOA%3D%3D&lg2=UtASsssmOIJ0bQ%3D%3D&id2=UUkM8VrEfX%2BJww%3D%3D&vt3=F8dBxGR1SmblnHi2pUw%3D; csg=4152c503; lgc=tb99933355; cookie17=UUkM8VrEfX%2BJww%3D%3D; dnk=tb99933355; skt=9eb4c01a607c2525; existShop=MTU4NzY0MjkzMw%3D%3D; uc4=id4=0%40U2uAh66ENDSFlDn5l39UyBIAOfU0&nk4=0%40FY4HVZQ9DA01J9ejbr8td0ZWvZMt; tracknick=tb99933355; _cc_=W5iHLLyFfA%3D%3D; _l_g_=Ug%3D%3D; sg=584; _nk_=tb99933355; cookie1=VALYdBQLFf66%2BXx%2F52LjOGtZ7V%2BcCyTF%2FtMW5v5sIkY%3D; enc=qNLw5fUFJdX%2FSFOigEmc%2B6xqyqn6I0EpSyaZ4HnmmerR8dRqIxMQWqj%2FiN1IR7j6EYWYzv8cIC4RJqQqr3Zcmw%3D%3D; JSESSIONID=962D93948B53629A5B8E7E6978A413B7; tfstk=cIq5BJ04oQA7E8qy0W6qzOt79rmFZHYj3HG4FrFNYvP1VSw5ietZ1xJoEItxWx1..; uc1=cookie16=VT5L2FSpNgq6fDudInPRgavC%2BQ%3D%3D&cookie21=V32FPkk%2FgihF%2FS5nr3O5&cookie15=W5iHLLyFOGW7aA%3D%3D&existShop=false&pas=0&cookie14=UoTUPcqYhgFvKg%3D%3D; mt=ci=119_1; v=0; thw=cn; hng=CN%7Czh-CN%7CCNY%7C156; isg=BHp6khwQ8FQiTXzjrTmF2kJqy6CcK_4FXXkqiIRzmY3YdxixbrrRFRfFx0MMZ3ad; l=eBO_185lQc-_g2cyBO5ZPurza7PFeIRbzsPzaNbMiIHca66RTF1SHNQccmvH7dtbgtCxpexzH_ziuREv8Zadg2HvCbKrCyConxvO.',
            'user-agent': 'Mozilla/5.0'
        }
        r = requests.get(url, timeout=30, headers=kv)
        # r = requests.get(url, timeout=30)
        # print(r.status_code)
        r.raise_for_status()
        r.encoding = r.apparent_encoding
        return r.text
    except:
        return "爬取失败"

def parsePage(glist, html):
    '''
    解析网页，搜索需要的信息
    :param glist: 列表作为存储容器
    :param html: 由getHTMLText()得到的
    :return: 商品信息的列表
    '''
    try:
        # 使用正则表达式提取信息
        price_list = re.findall(r'\"view_price\"\:\"[\d\.]*\"', html)
        name_list = re.findall(r'\"raw_title\"\:\".*?\"', html)
        for i in range(len(price_list)):
            price = eval(price_list[i].split(":")[1])  #eval（）在此可以去掉""
            name = eval(name_list[i].split(":")[1])
            glist.append([price, name])
    except:
        print("解析失败")

def printGoodList(glist):
    tplt = "{0:^4}\t{1:^6}\t{2:^10}"
    print(tplt.format("序号", "商品价格", "商品名称"))
    count = 0
    for g in glist:
        count = count + 1
        print(tplt.format(count, g[0], g[1]))

# 根据页面url的变化寻找规律，构建爬取url
goods_name = "书包"  # 搜索商品类型
start_url = "https://s.taobao.com/search?q=" + goods_name
info_list = []
page = 3  # 爬取页面数量

count = 0
for i in range(page):
    count += 1
    try:
        url = start_url + "&s=" + str(44 * i)
        html = getHTMLText(url)  # 爬取url
        parsePage(info_list, html) #解析HTML和爬取内容
        print("\r爬取页面当前进度: {:.2f}%".format(count * 100 / page), end="")  # 显示进度条
    except:
        continue

printGoodList(info_list)

ans

FunYoung0407
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
【python】爬取CSDN博客文章（保存为html，txt，md）
m0_53268714的博客
10-30 3302
闲来无事，用requests试一试爬取csdn，顺便加了一个三格式保存功能
python etree库_Xpath语法与lxml库的用法(etree_xpath)
weixin_35607076的博客
01-28 2459
来一段代码先：importrequestsfrom lxml importetreehtml=requests.get('https://python123.io/ws/demo.html').texttree=etree.HTML(html)print(tree.xpath('//p[@class="title"]/b/text()'))#列表类型print(tree.xpath('//a[@c...
xpath解析
zmj11_的博客
04-25 3705
xpath解析是我们最经常应用的数据解析方式，我们今天就来介绍xpath解析。 xpath解析 进行xpath解析大致分为以下几个步骤： 1.导入lxml库，导入etree模块 2.实例化etree对象tree 3.数据解析 4.保存爬取到的数据 1.引入etree模块 在这里，我学习的视频里面导入etree模块是直接从lxml库中导入的，但是好像py3以后就不能直接从lxml库中导入etree了，需要先从lxml中导入html库，利用html导入etree具体代码如下： from lxml import
etree.html 报错 AttributeError:‘function’ object has no attribut ‘HTML’
m0_55901666的博客
04-14 7604
etree.html 报错 1.Pycharm 中lxml没有etree模块的解决方法： 之前是： from lxml import etree tree = etree.HTML( ) python 3.5以上版本lxml中没有了etree, 要换另外一种方式引入： from lxml import html etree = html.etree() 2.报错：AttributeError:‘function’ object has no attribut ‘HTML’ 以上换了还是解决不
etree.HTML函数python,python lxml中etree的简单应用
weixin_42466857的博客
06-17 1万+
我一般都是通过xpath解析DOM树的时候会使用lxml的etree，可以很方便的从html源码中得到自己想要的内容。这里主要介绍一下我常用到的两个方法，分别是etree.HTML()和etree.tostrint()。1.etree.HTML()etree.HTML()可以用来解析字符串格式的HTML文档对象，将传进去的字符串转变成_Element对象。作为_Element对象，可以方便的使用g...
python 爬虫（一）
杨柳的博客
09-12 199
import urllib2 class Spider: '''   爬取一个网站，定义一个Spider类   ''' def load_page(self,page): ''' 定义一个发送url请求，下载HTML源码的成员方法，self表示当前对象 '''   #要请求的url地址 url =...
python爬虫20个案例
03-25
讲诉python爬虫的20个案例 。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。。
Python爬虫小案例
06-01
python爬虫案例Python爬虫小案例Python爬虫小案例Python爬虫小案例Python爬虫小案例Python爬虫小案例Python爬虫小案例Python爬虫小案例Python爬虫小案例Python爬虫小案例Python爬虫小案例Python爬虫小案例Python爬虫...
python爬虫基础python爬虫基础
12-28
python爬虫基础python爬虫基础python爬虫基础python爬虫基础python爬虫基础python爬虫基础python爬虫基础python爬虫基础python爬虫基础python爬虫基础python爬虫基础python爬虫基础python爬虫基础python爬虫基础...
python爬虫.pdf
12-09
Python爬虫技术详解 Python爬虫是指使用Python语言编写的网络爬虫程序，它可以自动地从互联网上抓取数据，并对其进行处理和分析。Python爬虫技术广泛应用于数据挖掘、机器学习、自然语言处理等领域。 Requests库...
Python爬虫入门教程：超级简单的Python爬虫教程.pdf
03-20
Python爬虫入门教程是一篇超详细介绍 Python 爬虫入门的教程，从实战出发，适合初学者。读者只需在阅读过程紧跟文章思路，理清相应的实现代码，30 分钟即可学会编写简单的 Python 爬虫。
python爬虫：Python 爬虫知识大全
最新发布
06-22
python爬虫：Python 爬虫知识大全； python爬虫：Python 爬虫知识大全； python爬虫：Python 爬虫知识大全； python爬虫：Python 爬虫知识大全； python爬虫：Python 爬虫知识大全； python爬虫：Python 爬虫知识...
python爬虫python爬虫
02-02
python爬虫python爬虫
python爬虫糗事百科
01-17
python爬虫，爬取糗事百科python爬虫，爬取糗事百科python爬虫，爬取糗事百科python爬虫，爬取糗事百科python爬虫，爬取糗事百科python爬虫，爬取糗事百科python爬虫，爬取糗事百科python爬虫，爬取糗事百科python...
python网络编程实战-使用etree进行网页数据的解析，etree.xpath的使用
记录和分享程序人生的点点滴滴
09-26 4686
etree是基于ElementTree API的一种XML解析方式。相较于SAX，DOM而言，具有代码可用性好，速度快，消耗内存少等特点。Python的lxml库中的etree，提供了ElementTree API定义的接口。
【爬虫_解析】
qq_64451048的博客
12-08 430
爬虫_解析
爬虫基础-通过etree+xpath和beautifulsoup+selector爬取数据
qq_51690310的博客
03-24 2237
学习爬虫解析过程中的一个小练习
Python中etree.HTML()函数解析
热门推荐
JdiLfc的博客
12-06 2万+
感兴趣的可以看我的另一篇博客：一次完整的爬虫 利用requests和xpath爬取网页内容过程 etree.HTML()可以用来解析字符串格式的HTML文档对象，将传进去的字符串转变成_Element对象。作为_Element对象，可以方便的使用getparent()、remove()、xpath()等方法。 url = "https://dl.58.com/xiaoqu/150/" headers = { "User-Agent": "Mozilla/5.0 (Windows NT 10.0; W
Python爬虫资源.pptx
11-21
Python爬虫资源.pptx Python爬虫资源.pptx Python爬虫资源.pptx Python爬虫资源.pptx

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值