爬虫(6)—— 淘宝商品比价定向爬虫

该实例来源于中国大学慕课,视频教学链接如下:
传送门

目标:
获取淘宝搜索页面的额信息,提取其中的商品名称和价格
关键点:
淘宝的搜索接口
翻页的处理
在这里插入图片描述
从以上图片中可以看出,搜索接口的形式是:
https://s.taobao.com/search?q=商品名
链接最后的数字代表的是下一页第一个商品的编号

技术: requests库,re库

整体代码框架

import requests
import re

# 获取页面信息
def getHTMLText(url):
    print("url")

# 页面解析
def parsePage(ilt, html):
    print(ilt)

# 显示商品信息
def printGoodsList(ilt):
    print(goods)

# 主函数
def main():
    goods = '书包'  # 商品
    depth = 2       # 获取页面的个数
    start_utl = 'https://s.taobao.com/search?q='+goods
    infoList = []  # 存取返回的商品信息
    for i in range(depth):  # 处理每一页
        try:
            url = start_utl+'&s='+str(44*i)
            html = getHTMLText(url)
            parsePage = (infoList, html)
        except:
            continue
    printGoodsList(infoList)

main()

获取页面信息

def getHTMLText(url):
    try:
        r=requests.get(url,timeout=30)
        r.raise_for_status()
        r.encoding=r.apparent_encoding
        return r.text
    except:
        prnt("获取失败!")
        return ''

页面解析
在这里插入图片描述在这里插入图片描述
从图片中可以看到价格信息位于:view_price关键字后;商品名位于raw_title关键字后面

def parsePage(ilt, html):
    try:
        plt=re.findall(r'\"view_price\"\:\"[\d.]*\"',html)  # 获取价格
        tlt=re.findall(r'\"raw_title\"\:\".*?\"',html)     # 获取商品名称
        for i in range(len(plt)):
            price=eval(plt[i].split(':')[1])
            title=eval(tlt[i].spllit(':')[1])
            ilt.append([price,title])
    except:
        print("")

显示商品信息

def printGoodsList(ilt):
    tplt="{:4}\t{:8}\t{:16}"   # 信息显示格式,4个单位,8个单位,16个单位
    print(tplt.format("序号","价格","商品名称"))
    count=0      # 用于计数商品的个数
    for g in ilt:
        count+=1
        print(tplt.format(count,g[0],g[1]))

完整代码及运行结果

import requests
import re

# 获取页面信息
def getHTMLText(url):
    try:
        r = requests.get(url, timeout=30)
        r.raise_for_status()
        r.encoding = r.apparent_encoding
        return r.text
    except:
        prnt("获取失败!")
        return ''

# 页面解析
def parsePage(ilt, html):
    print("html:----->",html)     # html没问题,是网页的源码
    html='''
    "view_price":"88.00","view_fee":"0.00"raw_title":"tigerfamily小学生书包1-3年级男女孩儿童书包减负护脊背包6周岁"
    '''
    try:
        plt = re.findall(r'\"view_price\"\:\"[\d\.]*\"', html)  # 获取价格
        tlt = re.findall(r'\"raw_title\"\:\".*?\"', html)     # 获取商品名称
        print("plt:")
        for i in range(len(plt)):
            price = plt[i].split(':')[1]
            title = tlt[i].split(':')[1]
            ilt.append([price,title])
    except TypeError as err:
        print(err)

# 显示商品信息
def printGoodsList(ilt):
    tplt = "{:4}\t{:8}\t{:16}"   # 信息显示格式,4个单位,8个单位,16个单位
    print(tplt.format("序号", "价格", "商品名称"))
    count = 0      # 用于计数商品的个数
    for g in ilt:
        count += 1
        print(tplt.format(count, g[0], g[1]))

# 主函数
def main():
    goods = '书包'  # 商品
    depth = 1       # 获取页面的个数
    start_utl = 'https://s.taobao.com/search?q='+goods
    infoList = []  # 存取返回的商品信息
    for i in range(depth):  # 处理每一页
        try:
            url = start_utl+'&s='+str(44*i)
            html = getHTMLText(url)
            parsePage(infoList, html)
        except:
            continue
    printGoodsList(infoList)


main()

视频中的是输出了正确的商品信息,但是自己做时输出的是空白数据,问题应该在页面解析处,获取网页源码没问题可以正常获得,但是解析不出数据。但是将html字符串修改一下,可以输出商品信息,不知道是代码问题还是我的软件问题
如果哪位大佬发现了问题,希望可以指出

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

无知的小菜鸡

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值