一个简单的Python爬虫Demo

# -*- coding = utf-8 -*-
# Autor : Moro

from bs4 import BeautifulSoup # 网页解析,获取数据
import re # 正则表达式,文字匹配
import urllib.request,urllib.error # 制定URL,获取网页数据
import xlwt # excel操作
import sqlite3 # 进行数据库存储

def main():
    baseUrl = "https://movie.douban.com/top250?start="
    # 1.爬取网页
    dataList = getData(baseUrl)
    savePath = ".\\豆瓣电影信息.xls"
    dbPath = 'test.db'
    # 3.保存数据
    #saveData(savePath,dataList)
    saveData_to_db(dbPath,dataList)

# 链接   
findLink = re.compile(r'<a href="(.*?)">') # 创建正则表达式的对象和规则
# 图片
findImgSrc = re.compile(r'<img.*src="(.*?)"',re.S) # 忽略换行的情况
# 标题
findTitle = re.compile(r'<span class="title">(.*)</span>')
# 评分
findRating = re.compile(r'<span class="rating_num" property="v:average">(.*)</span>')
# 评价人数
findJudge = re.compile(r'<span>(\d*)人评价</span>')
# 概况
findInq = re.compile(r'<span class="inq">(.*)</span>')
# 相关内容
findBd = re.compile(r'&
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值