lxml简单用法 解析网页

import requests

s=requests.Session()

re=s.get(lgurl,headers=headers)  #此处s可以直接换成requests

the_page=re.content  #content 为二进制文本

from lxml import etree 

html=etree.HTML(the_page)

joblistPath='//*[@id="s_position_list"]/ul/li'   #此处joblistPath可使用浏览器中的copy xpath选项中的内容

result=html.xpath(joblistPath)

result[0].tag  #获取result结果集中第一个元素的标签名称,例<a class='shjdb'  > 中的tag是a.

result[0].xpath(/a/@href) #返回根目录下a下所有子元素的属性href的值,例<a href='shjdb'  > <li href='123.com'>,中返回的是‘123.com’.

result[0].text  #返回的是元素的内容,即标签对中间的文本,例<a href="link5.html">fifth item</a>中返回的是fifth item

转载于:https://www.cnblogs.com/Ting-light/p/9548153.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
好的,使用这些可以方便地解析HTML文档并提取其中的数据。以下是使用BeautifulSoup获取网页数据的基本步骤: 1. 安装BeautifulSoup:可以通过pip install beautifulsoup4命令进行安装。 2. 导入BeautifulSoup:在Python代码中,使用from bs4 import BeautifulSoup命令导入BeautifulSoup。 3. 获取网页数据:使用Python中的requests等工具发送HTTP请求获取网页数据,并将数据保存为字符串。 4. 解析HTML文档:使用BeautifulSoup中的soup对象解析HTML文档,即将HTML文档转化为BeautifulSoup对象。 5. 提取数据:使用BeautifulSoup对象的find()、find_all()、select()等方法提取需要的数据。 以下是一个使用BeautifulSoup获取网页数据的示例代码: ```python import requests from bs4 import BeautifulSoup # 发送HTTP请求获取网页数据 url = 'http://www.example.com' response = requests.get(url) html_doc = response.text # 解析HTML文档 soup = BeautifulSoup(html_doc, 'html.parser') # 提取数据 title = soup.title.string print('网页标题:', title) links = soup.find_all('a') for link in links: print(link.get('href')) ``` 以上代码中,首先使用requests发送HTTP请求获取网页数据,并将返回的数据保存为字符串html_doc。然后,使用BeautifulSoup中的BeautifulSoup()函数将html_doc转化为BeautifulSoup对象soup,接着使用soup对象的title属性获取网页标题,并使用find_all()方法获取所有链接,并打印出链接的href属性。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值