①信息组织与提取方法
信息标记的三种形式:XML、JSON、YAML
三种信息标记形式的比较:
XML ==> 最早的通用信息标记语言,可扩展性好,但繁琐;是Internet上的信息交互与传递。
JSON ==> 信息有类型,适合程序处理(js),较XML繁琐;用于移动应用云端和节点的信息通信,无注释。
YAML ==> 信息无类型,文本信息比例较高,可读性好;用于各类系统的配置文件,有注释易读。
实例一:获取中国大学排名信息(定向爬虫)
程序的结构设计
步骤1:从网络上获取大学排名网页内容 getHTMLText()
步骤2:提取网页内容中信息到合适的数据结构 fileUnivList()
步骤3:利用数据结构展示并输出结果printUnivList()
---------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------
②正则表达式的常用操作符
③经典正则表达式实例
^[A-Za-z]+$ 表示由26个字母组成的字符串
^[A-Za-z0-9]+$表示由26个字母和数字组成的字符串
^-?\d+$表示整数形式的字符串
^[0-9]*[1-9][0-9]*$表示正整数形式的字符串
[1-9]\d{5}表示中国境内邮政编码,6位
[\u4e00-\u9fa5]表示匹配中文字符
\d{3}-\d{8}|\d{4}-\d{7}表示国内电话号码,例如010-68913536
④匹配IP地址的正则表达式(IP地址分4段,每段0~255)
精确写法:
0~99: [1-9]?\d
100~199: 1\d{2}
200~249: 2[0-4]\d
250~255: 25[0-5]
则IP地址的正则表达式精确写法:
(([1-9]?\d|1\d{2}|2[0-4]\d|25[0-5]).){3}([1-9]?\d|1\d{2}|2[0-4]\d|25[0-5])
⑤re库(正则表达式库)的使用
调用方法:import re
Re库主要功能函数:
1)re.search() ==> 在一个字符串中搜索匹配正则表达式的第一个位置,返回match对象
2)re.match() ==> 在一个字符串的开始位置起匹配正则表达式,返回match对象
3)re.findall() ==> 搜索字符串,以列表类型返回全部能匹配的子串
4)re.split() ==> 将一个字符串按照正则表达式匹配结果进行分割,返回列表类型
5)re.finditer() ==> 搜索字符串,返回一个匹配结果的迭代类型,每个迭代元素是match对象
6)re.sub() ==> 在一个字符串中替换所有匹配正则表达式的子串,返回替换后的字符串
接下来分别阐述:
1)re.search(pattern,string,flags=0)
pattern:正则表达式的字符串或原生字符串
string:待匹配字符串
flags:正则表达式使用时的控制标记
2)re.match(pattern,string,flags=0)
从一个字符串的开始位置起匹配正则表达式,返回一个match对象
4)re.split(pattern,string,maxsplit=0,flags=0)
将一个字符串按照正则表达式匹配结果进行分割,返回列表类型;
pattern:正则表达式的字符串或原生字符串表示
string:待匹配字符串
maxsplit:最大分割数,剩余部分作为最后一个元素输出
flags:正则表达式使用时的控制标记
⑥re库的match对象
1)Match对象的属性:
.string ==> 待匹配的文本
.re ==> 匹配时使用的pattern对象(正则表达式)
.pos ==> 正则表达式搜索文本的开始位置
.endpos ==> 正则表达式搜索文本的结束位置
2)Match对象的方法
.group(0) ==> 获得匹配后的字符串
.start() ==> 匹配字符串在原始字符串的结束位置
.span() ==> 返回(.start(),.end())
⑦re库的贪婪匹配和最小匹配
最小匹配操作符:
*? ==> 前一个字符0次或无限次扩展,最小匹配
+? ==> 前一个字符1次或无限次扩展,最小匹配
?? ==> 前一个字符0次或1次扩展,最小匹配
{m,n}? ==> 扩展前一个字符m至n次(含n),最小匹配