python3网络爬虫爬取进日头条代码

本文详细介绍了使用Python3进行网络爬虫抓取今日头条内容的过程,包括导入requests、urlencode等库,实现多线程下载,利用正则表达式处理数据,以及异常处理。通过定义和执行get_image()、save_image()函数,实现了从网页中提取图片标题和图片链接,并保存到本地。
摘要由CSDN通过智能技术生成
import requests #1
from urllib.parse import urlencode #2
from requests import codes #3
import os #4
from hashlib import md5 #5
from multiprocessing.pool import Pool #6
import re #7


def get_page(offset): #8
    params={
        'aid':'24',
        'app_name':'web_search',
        'offset':offset,
        'format':'json',
        'keyword':'街拍',
        'autoload':'true',
        'count':'20',
        'en_qc':'1',
        'cur_tab':'1',
        'from':'search_tab',
        'pd':'synthesis'
    } #9

    base_url='https://www.toutiao.com/api/search/content/?' #10
    url=base_url+urlencode(params) #11
    try:  #12
        resp=requests.get(url) #13
        print(url) #14
        if 200==resp.status_code: #15
            print(resp.json()) #16
            return resp.json() #
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值