python爬取知乎回答书单_python 爬取知乎盐选文章内容

本文介绍如何使用Python爬虫登录知乎并抓取盐选文章的内容。通过登录模块、设置User-Agent、正则表达式解析链接,逐页获取文章段落并保存到文本文件中。
摘要由CSDN通过智能技术生成

[Python] 纯文本查看 复制代码from DecryptLogin import login

from bs4 import BeautifulSoup

import re

import base64

lg = login.Login()

_, loginstauts = lg.zhihu(username='', password='', mode='pc')

headers = {

'user-agent': "Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/41.0.2228.0 Safari/537.36"

}

url1 = "https://www.zhihu.com/market/paid_column/1178733193687175168/section/1178742737682350080"

url2 = "https://www.zhihu.com/market/paid_column/1178733193687175168/section/1178742849583083520"

# 获取链接

r = loginstauts.get(url1, headers=headers)

wenzi = r.text

soup = BeautifulSoup(wenzi, 'lxml')

lianjie = soup.textarea

lianjie = str(lianjie)

pattern = re.compile('"next_section":{"url":"

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值