# -*- coding = utf-8 -*-
# @Time : 2021/11/18 19:54
# @Author : Vv
from bs4 import BeautifulSoup # 网页解析,获取数据
import re # 正则表达式,进行文字匹配
import urllib.request, urllib.error # 制定url 获取网页数据
import xlwt # 进行excel操作
import sqlite3 # 进行SQLite数据库操作
def main():
baseurl = "https://movie.douban.com/top250?start="
# 1、爬取网页
datalist = getData(baseurl)
savepath = "豆瓣电影Top250.xls"
dbpath = "movie.db"
# 3、保存数据
saveData(datalist, savepath)
# saveData2Db(datalist, dbpath)
# askURL("https://movie.douban.com/top250?start=")
# 影片详情链接的规则
findLink = re.compile(r'<a href="(.*?)">') # 创建正则表达式对象,表示规则(字符串的模式)
# 影片图片
findImgSrc = re.compile(r'<img .*src="(.*?)"', re.S) # re.S 让换行符包含在字符中
# 影片片名
findTitle = re.compile(r'<span class="title">(.*)</span>')
# 影片评分
findRating = re.compile(r'<span class="rating_num" property="v:average">(.*)</span>')
# 找到评价人数
findJudge = re.compile(r'<span>(\d*)人评价</span>
爬虫爬取豆瓣电影排行,保存到excel和SQLite
最新推荐文章于 2023-09-12 14:49:40 发布