python开发webkit浏览器_如何用Python开发一个简单的Webkit浏览器

绒绒小梧桐

2020-06-09 15:03:50

解决思路:有一个思路最为简单的思路可以动态解析页面信息。urllib不可以解析动态信息,但是浏览器可以。在浏览器上展现处理的信息其实是处理好的HTML文档。这为我们抓取动态页面信息提供了很好的思路。在Python中有一个很有名的图形库——PyQt。PyQt虽然是图形库,但是他里面QtWebkit。这个很实用。谷歌的Chrome和苹果的Safari都是基于WebKit内核开发的,所以我们可以通过PyQt中得QtWebKit把页面中的信息读取加载到HTML文档中,再解析HTML文档,从HTML文档中提取我们想用得信息。所需材料:作者本人实用MacOSX。应该在Windows和Linux平台也可以采用相同的法。1、Qt4libraryLibrary,而不是Creator。Library在Mac的默认安装路径下,应该是/home/username/Developor/,不要改变Qt4的默认安装路径。否则可能安装失败。官方网址:puting.co.uk/software/pyqt/download在终端切换到文件解压后的目录中。在终端中输入pythonconfigure.pymakesudomakeinstall进行安装编译。SIP和PyQt4两个安装方法相同。但是PyQt4依赖SIP。所以先安装SIP再安装PyQt41、2两步完成之后,Python的PyQt4的模块就安装好了。在Pythonshell中输入importPyQt4看看能不能找到PyQt4的模块。3、Spynnerspynner是一个QtWebKit的客户端,它可以模拟浏览器,完成加载页面、引发事件、填写表单等操作。这个模块可以在Python的官网找到。下载地址:python#-*-coding:utf-8-*-importspynnerbrowser=spynner.Browser()#创建一个浏览器对象browser.hide()#打开浏览器,并隐藏。browser.load("")#browser类中有一个类方法load,可以用webkit加载你想加载的页面信息。#load(是你想要加载的网址的字符串形式)printbrowser.html.encode("utf-8")#browser类中有一个成员是html,是页面进过处理后的源码的字符串.#将其转码为UTF-8编码open("Test.html",'w+').write(browser.html.encode("utf-8"))#你也可以将它写到文件中,用浏览器打开。browser.close()#关闭该浏览器通过这个程序,就可以比较容易的显示webkit处理的页面HTML源码了。spynner应用下面介绍一下spynner的简单应用,通过简单的程序,可以获取你在浏览器中看到的页面的全部图片。用HTMLParser、BeautifulSoup等都可以完成HTMLParser文档的解析。而我选择HTMParser。#!/usr/bin/pythonimportspynnerimportHTMLParserimportosimporturllibclassMyParser(HTMLParser.HTMLParser):defhandle_starttag(self,tag,attrs):iftag=='img':url=dict(attrs)['src']name=os.path.basename(dict(attrs)['src'])ifname.endswith('.jpg')orname.endswith('.png')orname.endswith('gif'):print"Download..",nameurllib.urlretrieve(url,name)if__name__=="__main__":browser=spynner.Browser()browser.show()browser.load("")Parser=MyParser()Parser.feed(browser.html)print"Done"browser.close()通过这个程序,可以下载你在页面上看到的全部图片。简单的几行程序就完成了这个艰巨的任务。实现了图片的批量处理。这真是Python语言的优势,再艰巨的任务交给第三方吧。