# -*- coding: utf-8 -*-
"""
Created on Thu Mar 18 17:30:27 2021
@author: wangyu
"""
from bs4 import BeautifulSoup
import re
import urllib.request,urllib.error
import xlwt
import sqlite3#进行SQLite数据库操作
def main():
baseurl='https://movie.douban.com/top250?start='
#1、爬取网页
datalist=getData(baseurl)
#savepath='.\\豆瓣电影top250.xls'#.表示当前位置,
#3、保存数据
#saveData=(savepath)
# askURL('https://movie.douban.com/top250')
findLink = re.compile(r' <a href="(.*?)">')#创建正则表达式对象,表示规则
#findLink = re.compile(r'<a href="(.*?)">')
#爬取网页
def getData(baseurl):
datalist=[]
for i in range(0,10):#调用获取页面的信息10次
url=baseurl+str(i*25)
html=askURL(url) #保存获取到的网页源码
#2、逐一解析数据
soup=BeautifulSoup(html,'html.parser')
for item in soup.find_all('div&
【python疑问(已解决)】爬虫时出现IndexError: list index out of range的错误
最新推荐文章于 2024-07-17 21:10:04 发布
