如何用Python抓取动态页面信息

原创 2014年07月27日 14:20:37


如何用Python抓取动态页面信息


问题来源:

        很早之前,学习Python web编程的时候,就涉及一个Python的urllib。可以用urllib.urlopen("url").read()可以轻松读取页面上面的静态信息。但是,随着时代的发展,也来越多的网页中更多的使用javascript、jQuery、PHP等语言动态生成页面信息。因此,用urllib再去抓取页面HTML就不足以达到我们想要的效果。

解决思路:

        有一个思路最为简单的思路可以动态解析页面信息。urllib不可以解析动态信息,但是浏览器可以。在浏览器上展现处理的信息其实是处理好的HTML文档。这为我们抓取动态页面信息提供了很好的思路。在Python中有一个很有名的图形库——PyQt。PyQt虽然是图形库,但是他里面QtWebkit。这个很实用。谷歌的Chrome和苹果的Safari都是基于WebKit内核开发的,所以我们可以通过PyQt中得QtWebKit把页面中的信息读取加载到HTML文档中,再解析HTML文档,从HTML文档中提取我们想用得信息。

所需材料:

作者本人实用Mac OS X。应该在Windows和Linux平台也可以采用相同的办法。

1、Qt4 library

Library,而不是Creator。Library在Mac的默认安装路径下,应该是/home/username/Developor/,不要改变Qt4的默认安装路径。否则可能安装失败。

官方网址:http://qt-project.org/downloads


2、SIP、PyQt4

这两个软件可以在在PyQt的官网找到。下载的是它的源码。Mac和Linux需要自己编译。

下载地址是:http://www.riverbankcomputing.co.uk/software/pyqt/download

在终端切换到文件解压后的目录中。

在终端中输入

python configure.py

make

sudo make install

进行安装编译。

SIP和PyQt4两个安装方法相同。但是PyQt4依赖SIP。所以先安装SIP再安装PyQt4


1、2两步完成之后,Python的PyQt4的模块就安装好了。在Python shell中输入import PyQt4看看能不能找到PyQt4的模块。


3、Spynner

spynner是一个QtWebKit的客户端,它可以模拟浏览器,完成加载页面、引发事件、填写表单等操作。

这个模块可以在Python的官网找到。

下载地址: https://pypi.python.org/pypi/spynner/2.5

解压后,cd到安装目录,然后输入sudo python configure.py install安装该模块。

这样Spynner模块就安装完成了,在python shell中试试import spynner看看该模块有没有安装完成。


Spynner的简单使用

Spynner的功能十分强大,但是由于本人能力有限,就介绍一下如何显示网页的源码吧。


#! /usr/bin/python
#-*-coding: utf-8 -*-

import spynner

browser = spynner.Browser()
#创建一个浏览器对象

browser.hide()
#打开浏览器,并隐藏。

browser.load("http://www.baidu.com")
#browser 类中有一个类方法load,可以用webkit加载你想加载的页面信息。
#load(是你想要加载的网址的字符串形式)

print browser.html.encode("utf-8")
#browser 类中有一个成员是html,是页面进过处理后的源码的字符串.
#将其转码为UTF-8编码

open("Test.html", 'w+').write(browser.html.encode("utf-8"))
#你也可以将它写到文件中,用浏览器打开。

browser.close()
#关闭该浏览器

通过这个程序,就可以比较容易的显示webkit处理的页面HTML源码了。


spynner应用

下面介绍一下spynner的简单应用,通过简单的程序,可以获取你在浏览器中看到的页面的全部图片。用HTMLParser、BeautifulSoup等都可以完成HTMLParser文档的解析。而我选择HTMParser。


#!/usr/bin/python

import spynner
import HTMLParser
import os
import urllib

class MyParser(HTMLParser.HTMLParser):

  def handle_starttag(self, tag, attrs):
    if tag == 'img':
      url = dict(attrs)['src']
      name = os.path.basename(dict(attrs)['src'])
      if name.endswith('.jpg') or name.endswith('.png') or name.endswith('gif'):
        print "Download.....", name
        urllib.urlretrieve(url, name)


if __name__ == "__main__":
  browser = spynner.Browser()

  browser.show()

  browser.load("http://www.artist.cn/snakewu1994/StyleBasis_Four/en_album_607236.shtml")

  Parser = MyParser()

  Parser.feed(browser.html)

  print "Done"

  browser.close()
通过这个程序,可以下载你在页面上看到的全部图片。简单的几行程序就完成了这个艰巨的任务。实现了图片的批量处理。这真是Python语言的优势,再艰巨的任务交给第三方吧。

如有什么问题,请微信联系作者,微信号:jamesxu182,欢迎大家广泛交流。


版权申明:博客可以任意转载,修改,交流,甚至商用。

友情提醒:批量爬取的图片,尽用于教学用途,请不要用于商业用途。



Python爬虫爬取动态页面思路+实例(一)

简介有时候,我们天真无邪的使用urllib库或Scrapy下载HTML网页时会发现,我们要提取的网页元素并不在我们下载到的HTML之中,尽管它们在浏览器里看起来唾手可得。这说明我们想要的元素是在我们的...
  • qq_30242609
  • qq_30242609
  • 2016年12月21日 17:48
  • 29882

使用Python+selenium+BeautifulSoup抓取动态网页的关键信息

程序目的:根据特定的SNP list, 在千人基因组数据库中爬取CHB人群的等位基因频率信息。 因为网页是动态的数据,嵌入了JavaScript代码,因此借助selenium来爬取信息。 Beau...
  • VincentLuo91
  • VincentLuo91
  • 2016年10月27日 16:39
  • 5520

python 抓取网页中所有图片

  • 2014年11月04日 15:16
  • 409B
  • 下载

python抓取动态网页---实例代码

try:       url=""         browser = webdriver.Chrome()     # 打开 FireFox 浏览器     browser.get(url...
  • liumeng305
  • liumeng305
  • 2014年11月09日 17:38
  • 669

使用python抓取js动态加载的网页

原文地址:http://blog.csdn.net/lambert310/article/details/49248109 我们在做网页抓取的时候,一般来说使用urllib和urllib2就能满...
  • yxwb1253587469
  • yxwb1253587469
  • 2016年08月17日 18:41
  • 8122

Python动态页面抓取超级指南

Python动态页面抓取超级指南 时间 2016-03-10 12:13:05  数据工匠 原文  http://datartisan.com/article/detail/95.html ...
  • liujiandu101
  • liujiandu101
  • 2016年07月14日 22:32
  • 2484

使用python抓取js动态加载的网页

我们在做网页抓取的时候,一般来说使用urllib和urllib2就能满足大部分需求。 但是有时候我们遇见那种使用js动态加载的网页。就会发现urllib只能抓出一个部分内容空白的网页。 解决办法是使用...
  • lambert310
  • lambert310
  • 2015年10月19日 11:49
  • 10970

利用python抓取网页各种类型内容(静态、动态)

声明:        本实验的操作系统是ubuntu,python 2.X Code-1:抓取静态的title数据(无需登录用户) 获取淘宝主页的页面静态数据 url:http://www.t...
  • chenzulong198867
  • chenzulong198867
  • 2012年12月01日 10:50
  • 9019

Python之抓取动态网页

python之抓取花瓣网图片 实现方法: 1,创建一个文件夹。 2,模拟请求网络服务。 3,匹配抓取的图片。 4,保存。#_*_coding:utf8_*_ import re import...
  • qq_33483515
  • qq_33483515
  • 2015年12月24日 15:04
  • 595

Python抓取网页动态数据——selenium webdriver的使用

文章目的 当我们使用Python爬取网页数据时,往往用的是urllib模块,通过调用urllib模块的urlopen(url)方法返回网页对象,并使用read()方法获得url的html内容,然后使用...
  • buptlrw
  • buptlrw
  • 2015年09月30日 16:01
  • 15574
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:如何用Python抓取动态页面信息
举报原因:
原因补充:

(最多只允许输入30个字)