爬取豆瓣的电影

#!user/bin/python
#coding:utf-8
from bs4 import BeautifulSoup
import urllib2
import sys
reload(sys)
sys.setdefaultencoding('utf-8')

def get_html(url):

    req = urllib2.urlopen(url).read()
    return req


def handle_html(html):

    soup = BeautifulSoup(html)
    print u'豆瓣电影Top250: 序号 \t影片名\t英文名\t链接地址'

    list1 = []
    for tag in soup.find_all('div', class_="item"):

        m_order = tag.find('em').get_text()
        m_name = tag.find('span').get_text()
        En_name = tag.find_all('span')[1].get_text()
        m_link = tag.a.get('href')
        #print '%s %s %s %s' % (m_order, m_name, En_name, m_link)
        cache = [m_order, m_name, En_name, m_link]
        list1.append(cache)
    return list1

def save_result(result):

    f = open('text.txt', 'wb')
    for res in result:
        count = 0
        for i in res:
            f.write(str(i) + '\t')
            count += 1
            if count == 4:
                f.write('\n')
    f.close()


if __name__ == '__main__':

    url = 'http://movie.douban.com/top250?format=text'
    html = get_html(url)
    result = handle_html(html)
    save_result(result)






  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值