Python爬虫实战一:抓取知乎问题下所有回答

代码是最近(2021.09)新写的~

需求

任务需求:抓取知乎问题下所有回答,包括其作者、作者粉丝数、回答内容、时间、回答的评论数、回答赞同数以及该回答的链接。

分析

以最近比较引人关注的"大厂间要相互解除屏蔽链接问题"为例,想要拿到回答的相关数据,可以在Chrome浏览器下按F12来分析请求;但借助Charles抓包工具可以更直观地获取相关字段:
抓包测试截图
注意我标注的 Query String 参数中 limit 5 表示每次请求返回5条回答,经测试最多可以改成20;offset 表示从第几个回答开始;

而返回的结果是 Json 格式的,每一条回答包含的信息足够多,我们只要筛选想要抓取的字段记录保存即可。

需要注意的是 content 字段中返回的是回答内容,但它格式是带了网页标签的,经过搜索我选用了 HTMLParser来解析,就免得自己再手动处理了。

代码

import requests,json
import datetime
import pandas as pd
from selectolax.parser import HTMLParser

url = 'https://www.zhihu.com/api/v4/questions/486212129/answers'
headers = {
    'Host':'www.zhihu.com',
    'user-agent':'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/91.0.4472.114 Safari/537.36',
    'referer':'https://www.zhihu.com/question/486212129'
}
df = pd.DataFrame(columns=('author','fans_count','content','created_time','updated_time','comment_count','voteup_count','url'))

def crawler(start):
    print(start)
    global df
    data= {
        'include':'data[*].is_normal,admin_closed_comment,reward_info,is_collapsed,annotation_action,annotation_detail,collapse_reason,is_sticky,collapsed_by,suggest_edit,comment_count,can_comment,content,editable_content,attachment,voteup_count,reshipment_settings,comment_permission,created_time,updated_time,review_info,relevant_info,question,excerpt,is_labeled,paid_info,paid_info_content,relationship.is_authorized,is_author,voting,is_thanked,is_nothelp,is_recognized;data[*].mark_infos[*].url;data[*].author.follower_count,vip_info,badge[*].topics;data[*].settings.table_of_content.enabled',
        'offset':start,
        'limit':20,
        'sort_by':'default',
        'platform':'desktop'
    }

    #将携带的参数传给params
    r = requests.get(url, params=data,headers=headers)
    res = json.loads(r.text)
    if res['data']:
        for answer in res['data']:
            author = answer['author']['name']
            fans = answer['author']['follower_count']
            content = HTMLParser(answer['content']).text()
            #content = answer['content']
            created_time = datetime.datetime.fromtimestamp(answer['created_time'])
            updated_time = datetime.datetime.fromtimestamp(answer['updated_time'])
            comment = answer['comment_count']
            voteup = answer['voteup_count']
            link = answer['url']

            row = {
                'author':[author],
                'fans_count':[fans],
                'content':[content],
                'created_time':[created_time],
                'updated_time':[updated_time],
                'comment_count':[comment],
                'voteup_count':[voteup],
                'url':[link]
            }
            df = df.append(pd.DataFrame(row),ignore_index=True)

        if len(res['data'])==20:
            crawler(start+20)
    else:
        print(res)
        
crawler(0)
df.to_csv(f'result_{datetime.datetime.now().strftime("%Y-%m-%d")}.csv',index=False)
print("done~")

结果

拿到的结果大致如下:
结果截图
可以看到有的回答是空的,去问题下检查发现是视频回答,没有文本内容,这个就先忽略了,当然可以自己再取下视频链接加到结果中。

反爬限制

目前(2021.09)看这个问题接口没有特别大限制,包括我在代码里的请求也没有带 cookie 直接来抓取的,而且通过修改 limit 参数到 20 来减少请求次数。

爬虫意义

最近也在想爬虫抓取知乎回答的意义在哪,起初是想汇总所有答案来分析下,但实际抓取完想一起阅读,发现在表格中读回答的阅读体验很差,不如直接去刷知乎;但比较明显的价值在于横向对比这几百个回答,回答的赞同、评论以及作者的粉丝情况都一目了然。此外,还可以根据结果做一些词频分析、词云图展示等,这些就是后话了。

爬虫只是获取数据的一种途径,如何解读才是数据的更大价值所在。

我是TED,一个天天写爬虫、但好久没写Python的数据工程师,后续会继续更新一系列自己琢磨的Python爬虫项目,欢迎持续关注~

  • 12
    点赞
  • 64
    收藏
    觉得还不错? 一键收藏
  • 5
    评论
需要使用Python编程语言来爬取知乎问题下的所有回答。具体步骤如下: 1. 首先需要安装Python的requests和beautifulsoup4库,用于发送HTTP请求和解析HTML页面。 2. 获取知乎问题页面的URL,可以手动复制粘贴,或者使用爬虫自动获取。 3. 使用requests库发送GET请求,获取知乎问题页面的HTML源代码。 4. 使用beautifulsoup4库解析HTML源代码,获取所有回答的信息。 5. 对每个回答进行解析,获取回答的文本、作者、点赞数、评论数等信息。 6. 将获取到的信息存储到本地文件或数据库中。 下面是一段示例代码,可以爬取知乎某个问题下的所有回答: ```python import requests from bs4 import BeautifulSoup # 知乎问题页面的URL url = 'https://www.zhihu.com/question/xxxxxx' # 发送GET请求,获取页面HTML源代码 response = requests.get(url) html = response.text # 解析HTML页面,获取所有回答的信息 soup = BeautifulSoup(html, 'html.parser') answers = soup.find_all('div', class_='List-item') # 遍历每个回答,解析并存储信息 for answer in answers: # 解析回答文本、作者、点赞数、评论数等信息 text = answer.find('div', class_='RichContent-inner').get_text() author = answer.find('div', class_='ContentItem-head').get_text() upvotes = answer.find('button', class_='Button VoteButton VoteButton--up').get_text() comments = answer.find('button', class_='Button ContentItem-action Button--plain Button--withIcon Button--hoverCard').get_text() # 将信息存储到本地文件或数据库中 with open('answers.txt', 'a', encoding='utf-8') as f: f.write(f'{author}\n{text}\n赞同数:{upvotes} 评论数:{comments}\n\n') ``` 需要注意的是,爬取知乎数据属于个人行为,需要遵守知乎的相关规定,不得用于商业用途。另外,爬取速度也需要适当控制,避免给服务器造成过大的负担。
评论 5
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值