使用python爬取猫眼电影、房王、股吧论坛、百度翻译、有道翻译、高德天气、华夏基金、扇贝单词、糗事百科(糗事百科)

本文介绍了如何使用Python进行网络爬虫实战,包括爬取猫眼电影信息、房地产数据、股吧论坛内容、百度和有道翻译、高德天气预报、华夏基金数据、扇贝单词学习资源以及糗事百科的内容。通过这些实例,展示了Python爬虫在不同场景的应用。
摘要由CSDN通过智能技术生成
'''
3、 糗事百科:xpath
http://www.qiushibaike.com/8hr/page/1
获取列表页每个帖子里的图片、用户昵称、段子内容、点赞次数和评论次数
选做:翻页
写到json文件中
'''

import requests,os,json
from lxml import etree

class Qiubai:
    def __call__(self, *args, **kwargs):
        self.get_xml(pages)

    def get_xml(self,pages):

        for page in range(1,pages+1):
            base_url = 'https://www.qiushibaike.com/8hr/page/'+str(page)+'/'
            headers = {
                'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.103 Safari/537.36',
            }
            params = {}
            #网页转码为xml
            xml = etree.HTML(requests.get(base_url,headers=headers).text)

            self.get_data(xml,page)

            #获取终止型号
            end_signal = xml.xpath( "/html/body/div[@id='content']/div[@class='content-block clearfix']/div[@class='col1 new-style-col1']/ul[@class='pagination']/li/a/span[@class='next']/text()")
            print('————————————————————',base_url)
            print('————————————————————',page,end_signal)
            if end_signal[0] == '\n更多\n' or int(page) == int(pages):
                print('##################################下载
  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值