Python每日一练

本文作者分享了使用Python爬取CSDN个人博客的经历,包括获取博客页面数量、文章链接,以及如何将文章保存到本地。通过实践学习了bs4、urllib、os和functools等模块,尽管编码过程遇到挑战,但收获颇丰。
摘要由CSDN通过智能技术生成

前言

人生苦短,我用python【2018.6.17】
感觉练习也写的差不多了,近期正好想对自己的blog做一个备份,因此写了一个爬取csdn博客的py。

要求

根据blog的网址,爬取所有的原创文章。
参考链接:https://blog.csdn.net/qq_33438733
这里写图片描述

简要分析

获取该博客存在几个页面
获取每个页面中的文章链接
获取文章并保存到本地

代码

@log
def get_blog_urls(pages):
    blog_urls = []
    for page in pages:
        content = request.urlopen(page)
        soup = BeautifulSoup(content, 
  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值