No.5 爬虫学习——MongoDB爬虫实践：虎扑论坛(唐松编《Python网络爬虫从入门到实践》P116-123)

最新推荐文章于 2022-11-30 22:14:15 发布

look仔

最新推荐文章于 2022-11-30 22:14:15 发布

阅读量807

点赞数

分类专栏：网络爬虫文章标签：爬虫 mongodb python

本文链接：https://blog.csdn.net/m0_53547225/article/details/121353456

版权

本文介绍了如何使用Python爬虫抓取虎扑步行街论坛的帖子信息，包括帖子名称、链接、作者、作者链接、创建时间等，并将这些数据存储到MongoDB数据库中。详细代码示例分别展示了MySQL和MongoDB的实现方式。

摘要由CSDN通过智能技术生成

题目：获取虎扑步行街论坛上所有帖子的数据，内容包括帖子名称、帖子链接、作者、作者链接、创建时间、回复数、浏览数、最后回复用户和最后回复时间，网络地址为：https://bbs.hupu.com/bxj

使用mysql作为数据存储器，完整代码如下：

import requests
from bs4 import BeautifulSoup
import pymysql
import time


headers = {
    'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/80.0.3987.149 Safari/537.36'
}

data_list = []

def get_info(url):
    html = requests.get(url,headers=headers)
    soup = BeautifulSoup(html.text,'lxml')
    names = soup.select('div > div.post-title > a')
    authors = soup.select('div > div.post-auth > a')
    times = soup.select('div > div.post-time')
    replys = soup.select('div > div.post-datum')
    for name,author,posttime,reply in zip(names,authors,times,replys):
        data = {
            'nameik':'https://bbs.h