Python 抓取页面

1. 一般方法

import urllib.request

page = urllib.request.urlopen(url)
html = page.read() 

2. 模拟浏览器

hdr={'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64; rv:52.0) Gecko/20100101 Firefox/52.0',
             'Accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8',
       'Accept-Charset': 'ISO-8859-1,utf-8;q=0.7,*;q=0.3',
       'Accept-Encoding': 'none',
       'Accept-Language': 'en-US,en;q=0.8',
       'Connection': 'keep-alive'}
req= urllib.request.Request(url,headers=hdr)
page = urllib.request.urlopen(req)
html = page.read()

3. 提取信息

1. 正则表达式

参见 Python 正则表达式 

2. xml解析

正在研究。。