python3爬虫豆瓣前一百_Python爬虫基础4-豆瓣top100

看了下，很多人都有写如何爬豆瓣，遂当做一个学习课题，写出来看看啊。本文主要分一下几个部分：

分析豆瓣top页面，构建程序结构

依次写出代码

整理代码

分析豆瓣top页面，构建程序结构

1.首先打开网页http://movie.douban.com/top250?start，也就是top页面

然后试着点击到top100的页面，注意带top100的链接依次为

http://movie.douban.com/top250?start=0

http://movie.douban.com/top250?start=25

http://movie.douban.com/top250?start=50

http://movie.douban.com/top250?start=75

2.然后通过查看源码，发现电影名的代码如下：

肖申克的救赎

 / The Shawshank Redemption

如图，因为有一些英文名等描述，通过正则抓取有些干扰，可能还需要后续过滤。

根据以上信息，此程序主要分以下3个步骤：

构建url地址池

抓取top100电影名称

依次打印输出

依次写出代码

1.构建url地址池。代码如下：

import urllib2

import re

# ----------确定url地址池------------

pre_url = 'http://movie.douban.com/top250?start='

top_urls = []

# 因为top100，每页25部电影，故为4页,从零开始

for num in range(4):

top_urls.append(pre_url + str(num * 25))

2.抓取top100电影名称

# ------------抓取top100电影名称----------

top_content = []

top_tag = re.compile(r'(.+?)')

for url in top_urls:

content = urllib2.urlopen(url).read()

pre_content = re.findall(top_tag, content)

# 过滤不符合条件的list，得到最后的top100的list

for item in pre_content:

if item.find('&nbsp') == -1:

top_content.append(item)

3.打印输出

top_num = 1

for item in top_content:

print 'Top' + str(top_num) + ' ' + item

top_num += 1

整理代码

我还是python新手，还没有太多的pythonic思想，也没有代码优化技巧，只能说是整理。

其次，个人习惯，在简单的代码里面我还是喜欢少用函数，尽量不隐藏代码的逻辑。

以下代码请参考，并欢迎提意见，希望得到大家的意见，谢谢！

整理后的代码如下：

# coding=utf-8

'''

本代码为自动抓取豆瓣top100电影代码

@pre_url url地址前缀，在这里为http://movie.douban.com/top250?start=

@top_urls url地址池

@top_tag 为抓取电影名正则表达式

'''

import urllib2

import re

pre_url = 'http://movie.douban.com/top250?start='

top_urls = []

top_tag = re.compile(r'(.+?)')

top_content = []

top_num = 1

# ----------确定url地址池------------

# 因为top100，每页25部电影，故为4页,从零开始

for num in range(4):

top_urls.append(pre_url + str(num * 25))

# ------------抓取top100电影名称，并打印输出----------

top_tag = re.compile(r'(.+?)')

for url in top_urls:

content = urllib2.urlopen(url).read()

pre_content = re.findall(top_tag, content)

# 过滤并打印输出

for item in pre_content:

if item.find('&nbsp') == -1:

print 'Top' + str(top_num) + ' ' + item

top_num += 1