利用正则爬取内涵8脑筋急转弯内容

内涵段子脑筋急转弯(mongodb)
1.网址: www.neihan8.com
2.步骤
1.找URL规律
第1页: https://www.neihan8.com/njjzw/
第2页: https://www.neihan8.com/njjzw/index_2.html
2.写正则
‘< div class=“text-column. * ?title=”(.*?)">. * ?< div class=“desc”>(. * ?)< /div>’,re.S
3.写代码

import requests
import re
import pymongo

class NeihanSpider(object):
    def __init__(self):
        self.baseurl = 'https://www.neihan8.com/njjzw/'
        self.headers = {'User-Agent':'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/534.50 (KHTML, like Gecko) Version/5.1 Safari/534.50'}
        self.proxies = {}
        self.conn = pymongo.MongoClient('数据库地址',27017)
        self.db = self.conn['neihandb']
        self.myset = self.db['njjzw']
    
# 获取页面
def getPage(self,url):
    res = requests.get(url,proxies=self.proxies,headers=self.headers)
    res.encoding = 'utf-8'
    html = res.text
    self.parsePage(html)
        
# 解析页面
def parsePage(self,html):
    p = re.compile('<div class="text-column.*?title="(.*?)">.*?<div class="desc">(.*?)</div>',re.S)
    rList = p.findall(html)
    self.writeMongo(rList)
    
# 保存到mongodb
def writeMongo(self,rList):
    for r in rList:
        d = {
            'question':r[0].strip(),
            'answer':r[1].strip()
                }
        self.myset.insert_one(d)

# 主函数
def workOn(self):
    self.getPage(self.baseurl)
    print('第1页爬取成功')
    for pg in range(2,n+1):
            # 拼接URL
         url = self.baseurl + 'index_' + str(pg) + '.html'
         self.getPage(url)
         print('第%d页爬取成功' % pg)

if  __name__ == '__main__':
    spider = NeihanSpider()
    spider.workOn()
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值