抓取页面的保存本地未完成

# 
import requests
from bs4 import BeautifulSoup
from urllib import request
from lxml import etree
import time
import os
import re

headers = {
    'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/85.0.4183.83 Safari/537.36'
}

url = input('请输入抓取网站: ')
cent = requests.get(url).content.decode('utf8')
htm = BeautifulSoup(cent, 'lxml')
name = htm.find_all('a')

def info(url):
    cent = requests.get(url).content.decode('utf8')
    html = BeautifulSoup(cent, 'lxml')
    if '=' in url:
        name = url.split(';')[-1].split('=')[1]
    else:
        name = 'index'
    with open('index_' + name + ".html", "w", encoding='utf-8') as file: 
        file.write(str(html))
        
for i in name:
    h = re.compile(r'href="/.*">').findall(str(i))
    if h:
        info(url + h[0].split('"')[1].split('/')[1])
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值