requests用parsel解析爬取网络图片

本文介绍如何结合requests和parsel库来爬取网络上的图片,并展示了查看和输出图片的步骤。通过学习,你可以轻松获取并管理网络图片。
摘要由CSDN通过智能技术生成
import requests
import parsel
import time
import os

start = time.time()     # 记录开始时间

# 判断文件是否存在
if not os.path.exists('./image'):
    # 创建文件
    os.mkdir('./image')

# 准备好url(网址)、headers(请求头)
url = "https://www.woyaogexing.com/touxiang/index_{0}.html"
headers = {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/98.0.4758.102 Safari/537.36"}

count = 1   # 记录爬取图片张数
# 分页
for i in range(2,6):
    # 请求
    response = requests.get(url=url.format(i), headers=headers)
    response.encoding = "utf-8"
    # 解析
    sel = parsel.Selector(response.text)
    # 提取数据
    divs = sel.css("div.pMain>.txList")
    for div in divs:
        # 二次解析
        title = div.css("a.img::attr(title)").get()  # 文件名
        img_url = div.css("a.img>img.lazy::attr(src)").get()  
要使用Python爬虫爬取在线表格,可以借助requests库发送网络请求,获取网页的HTML内容。然后使用parsel库对HTML进行解析,提取出表格数据。接下来,可以使用pandas库将表格数据转换为DataFrame对象,方便后续的数据处理和分析。最后,可以使用python-docx库创建一个新的Word文档,并将表格数据写入到文档中。 下面是一个示例代码,演示了如何使用Python爬虫爬取在线表格并将数据写入Word文档: ```python import requests from parsel import Selector import pandas as pd from docx import Document # 发送网络请求,获取网页内容 url = "https://example.com/table.html" # 替换成实际的表格网址 response = requests.get(url) html = response.text # 使用parsel解析HTML,提取表格数据 selector = Selector(html) table = selector.xpath("//table") rows = table.xpath(".//tr") data = [] for row in rows: cells = row.xpath(".//td/text()").getall() data.append(cells) # 将数据转换为DataFrame对象 df = pd.DataFrame(data) # 创建一个新的Word文档 doc = Document() # 写入标题 doc.add_heading("Table Data", level=1) # 写入表头 table_head = doc.add_table(rows=1, cols=len(df.columns)) for i, header in enumerate(df.columns): table_head.cell(0, i).text = header # 写入表格数据 table_body = doc.add_table(rows=len(df), cols=len(df.columns)) for i, row in enumerate(df.values): for j, value in enumerate(row): table_body.cell(i, j).text = str(value) # 保存Word文档 doc.save("table_data.docx") ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值