python print被标红_用Python写一个文章图片爬取器,很实用

1. 知乎文章图片爬取器之二博客背景

昨天写了知乎文章图片爬取器的一部分代码,针对知乎问题的答案json进行了数据抓取,博客中出现了部分写死的内容,今天把那部分信息调整完毕,并且将图片下载完善到代码中去。

313553debb6d3f6c7ff80bacd207a35b.png

首先,需要获取任意知乎的问题,只需要你输入问题的ID,就可以获取相关的页面信息,比如最重要的合计有多少人回答问题。 问题ID为如下标红数字

编写代码,下面的代码用来检测用户输入的是否是正确的ID,并且通过拼接URL去获取该问题下面合计有多少答案。

大家注意:不管你是为了Python就业还是兴趣爱好,记住:项目开发经验永远是核心,如果你没有2020最新python入门到高级实战视频教程,可以关注我,后台私信我 ‘py’ 自动获取最新python教程资料!还有老司机解答哦!

import requests

import re

import pymongo

import time

DATABASE_IP = '127.0.0.1'

DATABASE_PORT = 27017

DATABASE_NAME = 'sun'

client = pymongo.MongoClient(DATABASE_IP,DATABASE_PORT)

db = client.sun

db.authenticate("dba", "dba")

collection = db.zhihuone # 准备插入数据

BASE_URL = "https://www.zhihu.com/question/{}"

def get_totle_answers(article_id):

headers = {

"user-agent": "需要自己补全 Mozilla/5.0 (Windows NT 10.0; WOW64)"

}

with requests.Session() as s:

with s.get(BASE_URL.format(article_id),headers=headers,timeout=3) as rep:

html = rep.text

pattern =re.compile( '')

s = pattern.search(html)

print("查找到{}条数据".format(s.groups()[0]))

return s.groups()[0]

if __name__ == '__main__':

# 用死循环判断用户输入的是否是数字

article_id = ""

while not article_id.isdigit():

article_id = input("请输入文章ID:")

totle = get_totle_answers(article_id)

if int(totle)>0:

zhi = ZhihuOne(article_id,totle)

zhi.run()

else:

print("没有任何数据!")

完善图片下载部分,图片下载地址在查阅过程中发现,存在json字段的content中,我们采用简单的正则表达式将它匹配出来。细节如下图展示

46d9cfbfb7e5daf5b5279ee221294d83.png

编写代码吧,下面的代码注释请仔细阅读,中间有一个小BUG,需要手动把pic3修改为pic2这个地方目前原因不明确,可能是我本地网络的原因,还有请在项目根目录先创建一个imgs的文件夹,用来存储图片

def download_img(self,data):

## 下载图片

for item in data["data"]:

content = item["content"]

pattern = re.compile('

(.*?)')

imgs = pattern.findall(content)

if len(imgs) > 0:

for img in imgs:

match = re.search('(.*?)

download = match.groups()[0]

download = download.replace("pic3", "pic2") # 小BUG,pic3的下载不到

print("正在下载{}".format(download), end="")

try:

with requests.Session() as s:

with s.get(download) as img_down:

# 获取文件名称

file = download[download.rindex("/") + 1:]

content = img_down.content

with open("imgs/{}".format(file), "wb+") as f: # 这个地方进行了硬编码

f.write(content)

print("图片下载完成", end="")

except Exception as e:

print(e.args)

else:

pass

运行结果为

5ca1cd7501ec7dbe4bd87bb37806ed91.png

大功告成,最后注意:不管你是为了Python就业还是兴趣爱好,记住:项目开发经验永远是核心,如果你没有2020最新python入门到高级实战视频教程,可以关注我,后台私信我 ‘py’ 自动获取最新python教程资料!还有老司机解答哦!

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值