使用lxml解析HTML网页并批量获取数据

当我们需要从网页中获取一些需要的数据时,我们可以使用一些html网页分析的函数库来快速的获取数据。目前有多款解析HTML网页的第三方库可供使用,例如lxml,beautiful soup等等。下面以lxml为例从网页中爬取我们需要的统计数据

我希望从北京公交网站获取北京公交的所有线路信息,从而为后续处理做准备

首先引用requests用于向网页发出访问请求,获取html网页原始数据

import requests
再引用lxml中的etree类

import lxml.etree
首先输入我们起始的爬取地址,公交线路网页的索引页,以此为起点,获取所有的线路对应的url的值

lxml.etree将html网页按照标签进行一层一层的划分,形成逐渐向下生长的树结构,我们通过查看网页的源代码找到我们想要的数据在哪个标签内,使用xpath函数提取对应标签内的数据`


```python
import requests
import lxml.etree

def get_all_line():
      url = 'http://beijing.gongjiao.com/lines_all.html'
      text = requests.get(url).text
      doc = lxml.etree.HTML(text)
      all_lines = doc.xpath("//div[@class='list']/ul/li")
      f=open("./data/"+'allline.txt','a')
      print(len(all_lines))
      for line in all_lines:
            line_name = line.xpath("./a/text()")[0].strip()
          line_url = line.xpath("./a/@href")[0]
            f.write(line_name+'$$'+line_url+'\n')
       f.close()

这样我们获得了所有线路对应的url,在此基础上再依次爬取每一个线路网页的相关数据
在爬取线路数据之前,我们需要先建立字典用于保存不同字段的数据,便于管理。根据需要,我建立了一个13个字段的字典



  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
好的,使用这些库可以方便地解析HTML文档并提取其的数据。以下是使用BeautifulSoup库获取网页数据的基本步骤: 1. 安装BeautifulSoup库:可以通过pip install beautifulsoup4命令进行安装。 2. 导入BeautifulSoup库:在Python代码使用from bs4 import BeautifulSoup命令导入BeautifulSoup库。 3. 获取网页数据:使用Python的requests库等工具发送HTTP请求获取网页数据,并将数据保存为字符串。 4. 解析HTML文档:使用BeautifulSoup库的soup对象解析HTML文档,即将HTML文档转化为BeautifulSoup对象。 5. 提取数据:使用BeautifulSoup对象的find()、find_all()、select()等方法提取需要的数据。 以下是一个使用BeautifulSoup库获取网页数据的示例代码: ```python import requests from bs4 import BeautifulSoup # 发送HTTP请求获取网页数据 url = 'http://www.example.com' response = requests.get(url) html_doc = response.text # 解析HTML文档 soup = BeautifulSoup(html_doc, 'html.parser') # 提取数据 title = soup.title.string print('网页标题:', title) links = soup.find_all('a') for link in links: print(link.get('href')) ``` 以上代码,首先使用requests库发送HTTP请求获取网页数据,并将返回的数据保存为字符串html_doc。然后,使用BeautifulSoup库的BeautifulSoup()函数将html_doc转化为BeautifulSoup对象soup,接着使用soup对象的title属性获取网页标题,并使用find_all()方法获取所有链接,并打印出链接的href属性。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

我是忠义

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值