读取csv文件链接、批量爬取二维码内容

在制作完二维码,并且把二维码链接识别出来保存为csv文件之后(前两篇博文),现在开始爬取二维码里存储的内容。
需要爬取的url链接保存在二维码链接.csv文件中,此文件就两行url链接,如下
在这里插入图片描述
二维码里存储的数据如下
在这里插入图片描述
在这里插入图片描述

我们可以看一下这个网页的源文件
在这里插入图片描述
爬虫首先找到body标签(获取表格里的信息),然后在body标签中解析tr标签(获得每一行的信息),再把tr标签里的td标签找到(把相对应的信息写到ulist中)。
代码如下

import requests
from bs4 import BeautifulSoup
import bs4

def GetQrcodeText(url):
    try:
        r = requests.get(url,timeout = 30)
        r.raise_for_status()
        r.encoding = r.apparent_encoding
        return r.text
    except:
        return "获取网页异常"

def FillQrcodeList(qlist,html):
    soup = BeautifulSoup(html,'html.parser')
    for tr in soup.find('body',{'class' : 'typora-export os-windows'}).children:
        if isinstance(tr,bs4.element.Tag):
            tds = tr('td')
            qlist.append([tds[0].string,tds[1].string,tds[2].string,tds[3].string,tds[4].string,tds[5].string])

def PrintQrcodeList(qlist,num):
    tplt = "{0:{6}^6}\t{1:{6}^10}\t{2:{6}^4}\t{3:{6}^8}\t{4:{6}^10}\t{5:{6}^4}"
    #print(tplt.format("兔舍","笼牌号","耳号","品系","疫苗种类","接种时间",chr(12288)))
    #表头打印会有重复
    for i in range(num):
        q = qlist[i]
        print(tplt.format(q[0],q[1],q[2],q[3],q[4],q[5],chr(12288)))



def main():
    with open("F:\二维码链接.csv") as f:
        while True:
            line = f.readline()  #逐行读取
            if not line:
                break
            url = line.rstrip()
            #在循环中进行
            qinfo = []
            html = GetQrcodeText(url)
            FillQrcodeList(qinfo,html)
            PrintQrcodeList(qinfo,1)


main()

运行结果如下:
在这里插入图片描述

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值