python数据采集 使用xpath解析豆瓣top250

import requests, csv
import time
from lxml import etree


# 创建获取页面数据方法
def get_html(url):
    # 伪装浏览器
    headers = {
        'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) '
                      'Chrome/109.0.0.0 Safari/537.36'
    }
    r = requests.get(url, headers=headers).text
    e = etree.HTML(r)
    li = e.xpath('/html/body/div[3]/div[1]/div/div[1]/ol/li')
    lst = []
    for info in li:
        filename = info.xpath('./div/div[2]/div[1]/a/span[1]/text()')[0]
        year_r = info.xpath('./div/div[2]/div[2]/p[1]/text()[2]')[0]
        year = year_r.split("/")[-3].split()[0]
        actor_r = info.xpath('./div/div[2]/div[2]/p[1]/text()[1]')[0]
        try:
            if "主演:" in actor_r:
                actor = actor_r.split("主演:")[1].split()[0]
            else:
                actor = 'none'
        except IndexError:
            actor = 'none'
        film_lst = [filename, actor, year]
        lst.append(film_lst)
        print('{}----{}----{}'.format(filename, actor, year))
        time.sleep(1)


# 调用函数
for i in range(0, 265, 25):
    get_html(f'https://movie.douban.com/top250?start={i}&filter=')
    # print(url)

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值