2 - 百度贴吧数据抓取案例

最新推荐文章于 2024-06-16 00:47:57 发布
最新推荐文章于 2024-06-16 00:47:57 发布
阅读量246 收藏
点赞数
文章标签： 爬虫
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_58250910/article/details/134232908
版权

一. 要求:

  ①、输入贴吧名称:正能量吧
  ②、输入起始页:1
  ③、输入终止页:3
  ④、保存到本地文件
  正能量吧-第1页.html、赵丽颖吧-第2页.html

二. 实现步骤:

1. 查看是否为静态页面
右键 -> 查看网页源代码 -> 搜索数据关键字
2.  找到URL规律
第一页: http://tieba.baidu.com/f?kw=??&pn=0

第二页: ​​​​​​​http://tieba.baidu.com/f?kw=??&pn=50

第 n 页: pn = (n-1) * 50
3. 获取网页内容
4. 提取所需数据
5. 保存(本地文件,数据库) 
from urllib import request, parse
import random
import time


class TiebaSpider(object):
    def __init__(self):
        self.url = "https://tieba.baidu.com/f?kw={}&pn={}"
        self.headers = {
            'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/60.0.3100.0 Safari/537.36'}

    # 获取响应内容
    def get_page(self, url):
        req = request.Request(url=url, headers=self.headers)
        res = request.urlopen(req)
        html = res.read().decode()

        return html

    # 解析,提取数据
    def parse_page(self):
        pass

    # 保存数据
    def write_page(self, filename, html):
        with open(filename, 'w', encoding='utf-8') as f:
            f.write(html)

    # 入口函数
    def run(self):
        name = input("请输入贴吧名:")
        start = int(input('请输入起始页:'))
        end = int(input('请输入终止页:'))

        kw = parse.quote(name)
        # 拼接 + 获取内容 + 保存
        for i in range(start, end + 1):
            pn = (i - 1) * 50
            url = self.url.format(kw, pn)
            html = self.get_page(url)
            filename = '{}-第{}页.html'.format(name, i)
            self.write_page(filename, html)

            print('第%d页抓取成功' % i)

            # 每爬1一个页面随机休眠1-3秒
            time.sleep(random.randint(1, 3))


if __name__ == '__main__':
    begin = time.time()
    spider = TiebaSpider()
    spider.run()
    stop = time.time()
    print('执行时间:%.2f' % (stop - begin))

三. 案例优化

两种方式:

1. 将User-Agent提取成单个文件

  因为同一个User-Agent大量访问同一个地址也会被判定为爬虫

        (1). userAgent.py
ua_list = [

    "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/39.0.2171.95 Safari/537.36 OPR/26.0.1656.60",

    "Opera/8.0 (Windows NT 5.1; U; en)",

    "Mozilla/5.0 (Windows NT 5.1; U; en; rv:1.8.1) Gecko/20061208 Firefox/2.0.0 Opera 9.50",

    "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; en) Opera 9.50",

    "Opera/9.80 (Macintosh; Intel Mac OS X 10.6.8; U; en) Presto/2.8.131 Version/11.11",

    "Opera/9.80 (Windows NT 6.1; U; en) Presto/2.8.131 Version/11.11",

    "Opera/9.80 (Android 2.3.4; Linux; Opera Mobi/build-1107180945; U; en-GB) Presto/2.8.149 Version/11.10",

    "Mozilla/5.0 (Windows NT 6.1; WOW64; rv:34.0) Gecko/20100101 Firefox/34.0",

    "Mozilla/5.0 (X11; U; Linux x86_64; zh-CN; rv:1.9.2.10) Gecko/20100922 Ubuntu/10.10 (maverick) Firefox/3.6.10",

    "Mozilla/5.0 (Macintosh; Intel Mac OS X 10.6; rv,2.0.1) Gecko/20100101 Firefox/4.0.1",

    "Mozilla/5.0 (Windows NT 6.1; rv,2.0.1) Gecko/20100101 Firefox/4.0.1",

    "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/534.57.2 (KHTML, like Gecko) Version/5.1.7 Safari/534.57.2",

    "MAC：Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.122 Safari/537.36",

    "Windows：Mozilla/5.0 (Windows; U; Windows NT 6.1; en-us) AppleWebKit/534.50 (KHTML, like Gecko) Version/5.1 Safari/534.50",

    "Mozilla/5.0 (iPhone; U; CPU iPhone OS 4_3_3 like Mac OS X; en-us) AppleWebKit/533.17.9 (KHTML, like Gecko) Version/5.0.2 Mobile/8J2 Safari/6533.18.5",

    "Mozilla/5.0 (iPhone; U; CPU iPhone OS 4_3_3 like Mac OS X; en-us) AppleWebKit/533.17.9 (KHTML, like Gecko) Version/5.0.2 Mobile/8J2 Safari/6533.18.5",

    "Mozilla/5.0 (iPad; U; CPU OS 4_3_3 like Mac OS X; en-us) AppleWebKit/533.17.9 (KHTML, like Gecko) Version/5.0.2 Mobile/8J2 Safari/6533.18.5",

    "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/39.0.2171.71 Safari/537.36",

    "Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.11 (KHTML, like Gecko) Chrome/23.0.1271.64 Safari/537.11",

    "Mozilla/5.0 (Windows; U; Windows NT 6.1; en-US) AppleWebKit/534.16 (KHTML, like Gecko) Chrome/10.0.648.133 Safari/534.16",

    "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_7_0) AppleWebKit/535.11 (KHTML, like Gecko) Chrome/17.0.963.56 Safari/535.11",

    "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/30.0.1599.101 Safari/537.36",

    "Mozilla/5.0 (Windows NT 6.1; WOW64; Trident/7.0; rv:11.0) like Gecko",

    "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1; 360SE)",

    "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/536.11 (KHTML, like Gecko) Chrome/20.0.1132.11 TaoBrowser/2.0 Safari/536.11",

    "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.1 (KHTML, like Gecko) Chrome/21.0.1180.71 Safari/537.1 LBBROWSER",

    "Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; WOW64; Trident/5.0; SLCC2; .NET CLR 2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; Media Center PC 6.0; .NET4.0C; .NET4.0E; LBBROWSER)",

    "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; QQDownload 732; .NET4.0C; .NET4.0E; LBBROWSER)"

    "Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; WOW64; Trident/5.0; SLCC2; .NET CLR 2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; Media Center PC 6.0; .NET4.0C; .NET4.0E; QQBrowser/7.0.3698.400)",

    "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; QQDownload 732; .NET4.0C; .NET4.0E)",

    "Mozilla/5.0 (Windows NT 5.1) AppleWebKit/535.11 (KHTML, like Gecko) Chrome/17.0.963.84 Safari/535.11 SE 2.X MetaSr 1.0",

    "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1; Trident/4.0; SV1; QQDownload 732; .NET4.0C; .NET4.0E; SE 2.X MetaSr 1.0)",

    "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1; Trident/4.0; SE 2.X MetaSr 1.0; SE 2.X MetaSr 1.0; .NET CLR 2.0.50727; SE 2.X MetaSr 1.0)",

    "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Maxthon/4.4.3.4000 Chrome/30.0.1599.101 Safari/537.36",

    "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_7_0) AppleWebKit/535.11 (KHTML, like Gecko) Chrome/17.0.963.56 Safari/535.11",

    "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/38.0.2125.122 UBrowser/4.0.3214.0 Safari/537.36",

    "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/55.0.2883.87 UBrowser/6.2.4094.1 Safari/537.36",

    "Mozilla/5.0 (iPhone; U; CPU iPhone OS 4_3_3 like Mac OS X; en-us) AppleWebKit/533.17.9 (KHTML, like Gecko) Version/5.0.2 Mobile/8J2 Safari/6533.18.5",

    "Mozilla/5.0 (iPod; U; CPU iPhone OS 4_3_3 like Mac OS X; en-us) AppleWebKit/533.17.9 (KHTML, like Gecko) Version/5.0.2 Mobile/8J2 Safari/6533.18.5",

    "Mozilla/5.0 (iPad; U; CPU OS 4_2_1 like Mac OS X; zh-cn) AppleWebKit/533.17.9 (KHTML, like Gecko) Version/5.0.2 Mobile/8C148 Safari/6533.18.5",

    "Mozilla/5.0 (iPad; U; CPU OS 4_3_3 like Mac OS X; en-us) AppleWebKit/533.17.9 (KHTML, like Gecko) Version/5.0.2 Mobile/8J2 Safari/6533.18.5",

    "Mozilla/5.0 (Linux; U; Android 2.2.1; zh-cn; HTC_Wildfire_A3333 Build/FRG83D) AppleWebKit/533.1 (KHTML, like Gecko) Version/4.0 Mobile Safari/533.1",

    "Mozilla/5.0 (Linux; U; Android 2.3.7; en-us; Nexus One Build/FRF91) AppleWebKit/533.1 (KHTML, like Gecko) Version/4.0 Mobile Safari/533.1",

    "MQQBrowser/26 Mozilla/5.0 (Linux; U; Android 2.3.7; zh-cn; MB200 Build/GRJ22; CyanogenMod-7) AppleWebKit/533.1 (KHTML, like Gecko) Version/4.0 Mobile Safari/533.1",

    "Opera/9.80 (Android 2.3.4; Linux; Opera Mobi/build-1107180945; U; en-GB) Presto/2.8.149 Version/11.10",

    "Mozilla/5.0 (Linux; U; Android 3.0; en-us; Xoom Build/HRI39) AppleWebKit/534.13 (KHTML, like Gecko) Version/4.0 Safari/534.13",

    "Mozilla/5.0 (BlackBerry; U; BlackBerry 9800; en) AppleWebKit/534.1+ (KHTML, like Gecko) Version/6.0.0.337 Mobile Safari/534.1+",

    "Mozilla/5.0 (hp-tablet; Linux; hpwOS/3.0.0; U; en-US) AppleWebKit/534.6 (KHTML, like Gecko) wOSBrowser/233.70 Safari/534.6 TouchPad/1.0",

    "Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0;",

    "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 6.0)",

    "Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 6.0; Trident/4.0)",

    "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1)",

    "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1)",

    "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1; The World)",

    "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1; TencentTraveler 4.0)",

    "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1; Avant Browser)",

    "Mozilla/5.0 (Linux; U; Android 2.3.7; en-us; Nexus One Build/FRF91) AppleWebKit/533.1 (KHTML, like Gecko) Version/4.0 Mobile Safari/533.1",

    "Mozilla/5.0 (SymbianOS/9.4; Series60/5.0 NokiaN97-1/20.0.019; Profile/MIDP-2.1 Configuration/CLDC-1.1) AppleWebKit/525 (KHTML, like Gecko) BrowserNG/7.1.18124",

    "Mozilla/5.0 (compatible; MSIE 9.0; Windows Phone OS 7.5; Trident/5.0; IEMobile/9.0; HTC; Titan)",

    "UCWEB7.0.2.37/28/999",

    "NOKIA5700/ UCWEB7.0.2.37/28/999",

    "Openwave/ UCWEB7.0.2.37/28/999",

    "Openwave/ UCWEB7.0.2.37/28/999",

]
        (2).  demo.py
from urllib import request, parse
import random
import time
from userAgent import ua_list # 导入user-agent


class TiebaSpider(object):
    def __init__(self):
        self.url = "https://tieba.baidu.com/f?kw={}&pn={}"

    # 获取响应内容
    def get_page(self, url):
        # 随机提取user-Agent
        headers = {'User-Agent': random.choice(ua_list)} 
        req = request.Request(url=url, headers=headers)
        res = request.urlopen(req)
        html = res.read().decode()

        return html

    ...
        2. 使用 fake_useragent模块
        (1) . 安装模块
# 通过模块获取User-Agent
pip install fake_useragent
        (2). 使用模块
from fake_useragent import UserAgent

ua = UserAgent()  # 获取对象
print(ua.random)
           (3). 代码中使用模块
...
from fake_useragent import UserAgent


class TiebaSpider(object):
    def __init__(self):
        self.url = "https://tieba.baidu.com/f?kw={}&pn={}"

    # 生成随机的User-Agent
    def get_headers(self):
        ua = UserAgent()  # 获取对象
        headers = {'User-Agent': ua.random}
        print(headers)
        return headers

    # 获取响应内容
    def get_page(self, url):
        # 随机提取user-Agent
        headers = self.get_headers()
        ...
    ...

四. 正则解析模块

1. re模块使用流程

        方法一:

r_list = re.findall('正则表达式',html,re.S) #re.S:允许 . 匹配/n

        方法二:

# 1. 创建正则编译对象
pattern = re.compile(r'正则表达式',re.S)
r_list=pattern.findall(html)

2. 正则表达式元字符

3. 贪婪模式和非贪婪模式

import re

html = """
<div><p>窗前明月光</p></div>
<div><p>疑是地上霜</p></div>
"""
# 贪婪匹配
pattern = re.compile('<div><p>.*</p></div>', re.S)
r_list = pattern.findall(html)


# 非贪婪模式(使用最多)
pattern = re.compile('<div><p>.*?</p></div>', re.S)
r_list = pattern.findall(html)
print(r_list)
 4. 正则表达式分组

作用: 在完整的模式中定义子模式，将每个圆括号中子模式匹配出来的结果提取出来

import re

s = 'A B C D'
p1 = re.compile('\w+\s+\w+')
print(p1.findall(s))  # ['A B', 'C D']

p2 = re.compile('(\w+)\s+\w+')
# 第一步: 匹配完整 -> ['A B', 'C D']
# 第二步: 匹配()中 -> ['A', 'C']
print(p2.findall(s))

p3 = re.compile('(\w+)\s+(\w+)')
# 第一步: 匹配完整 -> ['A B', 'C D']
# 第二步: 匹配()中 -> [('A', 'B'), ('C', 'D')]
print(p3.findall(s))

分组总结:

1、在网页中,想要什么内容,就加()

2、多个分组先按整体正则匹配，然后再提取()中数据。结果:[(),(),()]

五.总结

        (1)、确定所抓取数据在响应中是否存在(右键 查看网页源码-搜索关键字)l
        (2)、数据存在: 查看URL地址规律

        (3)、写正则表达式,来匹配数据
        (4)、程序结构
                ①、使用随机User-Agent
                ②、每爬取1个页面后随机休眠一段时间

一个微不足道的bug
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
python爬虫百度贴吧代码大全_python爬虫实战（2）--爬取百度贴吧
weixin_39676633的博客
01-30 353
#-*- coding: utf-8 -*-#---------------------------------------#程序：百度贴吧爬虫#作者：lzhc#日期：2017-12-11#语言：Python 2.7#操作：输入网址后自动只看楼主并保存到本地文件#功能：将楼主发布的内容打包txt存储到本地。#---------------------------------------import...
百度贴吧贴子抓取脚本
05-27
python代码实现的 百度贴吧贴子抓取脚本，生成text文件，以及图片
爬取百度贴吧数据
专注于全栈开发领域
01-10 514
每次写的时候总是正则表达式出现问题，还需多多练习正则表达式的书写，需要耐心、细心 # coding: utf-8 # 引入请求包 import requests # 引入正则表达式包 import re # 1.准备url url = 'https://tieba.baidu.com/p/5082744218' # 2.获取网页源代码,发起请求接收响应 response = request
【web前端开发网页设计】一步步实现：HTML + CSS + JavaScript 完整无限嵌套评论（超实用）轻松搞定贴吧嵌套评论功能：完整源代码与详细教程（新手必看）轻松入门前端开发新手入门超简单
最新发布
南北极之间
06-16 534
总之，学习前端开发需要耐心和毅力，要保持对技术的热情和兴趣，不断学习和提升自己。通过实践项目、学习工具和框架、关注前端趋势等方式，你可以逐渐成为一名优秀的前端开发者。
探索技术世界：`baidu_tieba_crawler` - 贴吧数据爬取利器
gitblog_00023的博客
04-03 371
探索技术世界：baidu_tieba_crawler - 贴吧数据爬取利器 项目地址:https://gitcode.com/tyaqing/baidu_tieba_crawler 在这个信息爆炸的时代，数据已成为宝贵的资源。如果你对互联网上的社区论坛数据分析有兴趣，尤其是针对百度贴吧的数据挖掘，那么baidu_tieba_crawler项目绝对值得你的关注。 项目简介 baidu_tieba_c...
百度贴吧页面爬取
weixin_41048363的博客
02-27 849
首先，分析百度贴吧url结构：列如：http://tieba.baidu.com/f?kw=python&amp;ie=utf-8&amp;pn=1200http://tieba.baidu.com/f?  +  kw={要搜索的关键字}  + &amp;ie=utf-8  + &amp;pn=1200kw：要搜索的关键字   &amp;ie=utf-8 字符集   &amp;pn=1200  页...
百度贴吧图片抓取案例源码
05-01
这个项目名为“百度贴吧图片抓取案例源码”，它为初学者提供了一个简单易学的实践平台，帮助他们理解爬虫的基本工作原理。 首先，我们需要了解爬虫的基础知识。网络爬虫是一种自动化程序，它可以遍历互联网上的网页...
爬虫+百度贴吧图片抓取案例+源码demo
04-10
总结来说，通过这个"爬虫+百度贴吧图片抓取案例"，我们可以学习到如何使用Python爬虫技术从特定网站抓取图片，理解网络爬虫的工作流程，掌握HTML解析、请求处理以及并发下载等关键技术。同时，案例也提醒我们关注...
PHP网页抓取之抓取百度贴吧邮箱数据代码分享
09-21
在本篇【标题】"PHP网页抓取之抓取百度贴吧邮箱数据代码分享"中，主要探讨了如何使用PHP编程语言来实现从百度贴吧中抓取邮箱数据的技术。【描述】提到，该程序具备一键抓取帖子所有邮箱以及分页抓取的功能，适合对...
基于PHP的天宇php百度贴吧抓取源码.zip
10-21
【标题】：“基于PHP的天宇php百度贴吧抓取源码.zip”是一个包含PHP编程语言实现的百度贴吧数据抓取程序。这个程序主要用于从百度贴吧这个知名的中文论坛平台抓取和解析相关数据，如帖子、回复等信息。通过这样的...
python爬虫百度贴吧图片，内容，头像爬取代码及解析
06-19
python爬虫百度贴吧图片，内容，头像爬取代码及解析。网上博客一般只有百度贴吧的内容或者图片爬虫，我主要在此基础上，写了一些图片，头像，内容等信息的爬虫，主要用到beautifulsoup库等简单操作，适用于新手爬虫
爬取百度贴吧图片
11-02
python 爬取百度图片，使用python3.5平台，已经爬取相当数量的图片
仿百度贴吧源码 仿百度源码
12-18
仿百度贴吧源码 很强大 仿百度源码 仿百度贴吧-清新版
asp.net仿百度贴吧源代码
03-29
应用.NET技术做出的贴吧源代码，仿百度贴吧。其中内容与百度贴吧多有相似之处
贴吧系统源码
11-28
作为大型的论坛。利用Java实现了对贴吧的开发。奉上源码敬请欣赏
爬取整个百度贴吧
jinxuzhao的博客
12-14 1780
python是一门面向对象的编程语言，在我之前所学习的一些小爬虫中，代码大部分比价简单，都是面向过程的。但是在爬百度贴吧一个整个贴吧的时候问题就来了，要写出一个通用的代码，就要考虑获取贴吧的页数，帖子的页数，帖子的标题，帖子的内容.......等等。如果按照以前的写法，一个个for循环嵌套在一块，明显是不行的，不仅不清楚，也不容易实现。最终代码是在参考了静谧博客上爬取百度贴吧单个帖子的教程，完成了整个百度贴吧的爬取
使用python爬取百度贴吧分页
m0_59485658的博客
03-28 3020
本篇讲如何爬取百度贴吧，并翻页。 一、方法 按照爬取一个网页的步骤分为： 确定目标网址（url） 发送网络请求，（模拟正常用户），得到对应的响应数据 提取出特定的数据 保存，本地，入库 这里因为要爬取多个百度贴吧页面，所以使用for循环就可以使用url参数的规律变化，实现翻页。 在python中，本次爬取需要用到requests库 安装指令： 程序第一步，先引入requests库： 设置程序入口pycharm快捷指令main： 然后设置要爬取的贴
第九章 一分钟教会你使用re爬取百度贴吧
weixin_52731372的博客
02-28 355
正则表达式（Regular Expression，简称regex）是一种强大的文本匹配工具，它在计算机科学和软件开发领域中被广泛应用。re模块是Python中用于操作正则表达式的标准库，提供了丰富的功能来进行字符串匹配、替换和解析等操作。在计算机编程中，处理文本数据是一个常见的任务，而正则表达式可以帮助我们高效地处理各种复杂的文本匹配需求。通过使用re模块，我们可以轻松地实现对文本数据的搜索、替换、分割等操作，同时也能够有效地处理各种文本格式的解析。
Python爬虫实战：百度贴吧数据抓取与设计
作者针对百度贴吧这一热门社交媒体平台，探讨如何利用Python编程语言构建网络爬虫，以实现高效的数据抓取和分析。论文分为六个主要部分： 1. **前言**： - 研究背景：阐述了在信息爆炸的时代，社交网络数据的重要...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值