pyhton 爬图片网站并保存oss

pyhton 爬图片网站并保存oss


话不多说直接上代码

from lxml import etree
import datetime
import io
import random
import string
import uuid
 
import requests
import oss2
 

def parser(img, imageName, dirpath):
    endpoint='<>'	# oss url
    access_key_id=''
    access_key_secret=''
    bucket_name=''
    bucket=oss2.Bucket(oss2.Auth(access_key_id, access_key_secret), endpoint, bucket_name)
    result=bucket.put_object(f'{dirpath}/{imageName}', img.getvalue())
    return result.status
 

def save_oss_img(url):

    dirpath='img'
 
    now=datetime.datetime.now()
    nonce=str(uuid.uuid4())
 
    imageName='{}.jpg'.format(nonce)

    img=io.BytesIO(requests.get(url).content)
 
    statusCode=parser(img, imageName, dirpath)



def crawling():
	# 爬虫这里不是很详细可以根据具体的业务来爬取
    url = '<爬取的url>'
    text = requests.get(url).text
    html = etree.HTML(text)
    html_data = html.xpath("//div[@class='slist']/ul/li/a/img/@src")
    url_list = []
    for i in html_data:
        save_oss_img(i)


def run():
    crawling()

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值