爬虫学习笔记(四)
数据提取:
- 正则表达式
正则表达式是用来匹配字符串非常好用的方法,看看规则
模式 | 描述 |
---|---|
\d | 匹配一个数字字符。等价于 [0-9]。 |
\D | 匹配一个非数字字符。等价于 [^0-9]。 |
\w | 匹配字母、数字、下划线。等价于’[A-Za-z0-9_]’。 |
\W | 匹配非字母、数字、下划线。等价于 ‘[^A-Za-z0-9_]’。 |
\f | |
\n | |
\r | |
\s | 匹配任何空白字符,包括空格、制表符、换页符等等。等价于 [ \f\n\r\t\v]。注意 Unicode 正则表达式会匹配全角空格符。 |
\S | 匹配任何非空白字符。等价于 [^ \f\n\r\t\v]。 |
\t | |
\v | |
$ | |
( ) | 标记一个子表达式的开始和结束位置。子表达式可以获取供以后使用。要匹配这些字符,请使用 ( 和 )。 |
* | 匹配前面的子表达式零次或多次。要匹配 * 字符,请使用 *。 |
+ | 匹配前面的子表达式一次或多次。要匹配 + 字符,请使用 +。 |
. | 匹配除换行符 \n 之外的任何单字符。要匹配 . ,请使用 . 。 |
[ | 标记一个中括号表达式的开始。要匹配 [,请使用 [。 |
? | 匹配前面的子表达式零次或一次,或指明一个非贪婪限定符。要匹配 ? 字符,请使用 ?。 |
\ | 将下一个字符标记为或特殊字符、或原义字符、或向后引用、或八进制转义符。例如, ‘n’ 匹配字符 ‘n’。’\n’ 匹配换行符。序列 ‘\’ 匹配 “”,而 ‘(’ 则匹配 “(”。 |
^ | 匹配输入字符串的开始位置,除非在方括号表达式中使用,此时它表示除了该字符以外的所有字符的集合。要匹配 ^ 字符本身,请使用 ^。 |
{ | 标记限定符表达式的开始。要匹配 {,请使用 {。 |
指明两项之间的一个选择。要匹配 | |
- | 表示字符范围是从其前边的那个字符到其后边的那个字符。要匹配-请使用-。 |
限定符 | 说明 |
---|---|
* | 匹配前面的子表达式零次或多次。例如,zo* 能匹配 “z” 以及 “zoo”。* 等价于{0,}。 |
+ | 匹配前面的子表达式一次或多次。例如,‘zo+’ 能匹配 “zo” 以及 “zoo”,但不能匹配 “z”。+ 等价于 {1,}。 |
? | 匹配前面的子表达式零次或一次。例如,“do(es)?” 可以匹配 “do” 、 “does” 中的 “does” 、 “doxy” 中的 “do” 。? 等价于 {0,1}。 |
{n} | n 是一个非负整数。匹配确定的 n 次。例如,‘o{2}’ 不能匹配 “Bob” 中的 ‘o’,但是能匹配 “food” 中的两个 o。 |
{n,} | n 是一个非负整数。至少匹配n 次。例如,‘o{2,}’ 不能匹配 “Bob” 中的 ‘o’,但能匹配 “foooood” 中的所有 o。‘o{1,}’ 等价于 ‘o+’。‘o{0,}’ 则等价于 ‘o*’。 |
{n,m} | m 和 n 均为非负整数,其中n <= m。最少匹配 n 次且最多匹配 m 次。例如,“o{1,3}” 将匹配 “fooooood” 中的前三个 o。‘o{0,1}’ 等价于 ‘o?’。请注意在逗号和两个数之间不能有空格。 |
来源https://www.cnblogs.com/lsdb/p/9817644.html
其实没有必要记住那么多,带有删除线的都可以基本不用看了。
常用方法
- re.match
- re.match 尝试从字符串的起始位置匹配一个模式,如果不是起始位置匹配成功的话,match()就返回none
- 函数语法:
re.match(pattern, string, flags=0)
- re.search
- re.search 扫描整个字符串并返回第一个成功的匹配。
- 函数语法:
re.search(pattern, string, flags=0)
- re.sub
- re.sub 替换字符串
re.sub(pattern,replace,string)
- re.sub 替换字符串
- re.findall
- re.findall 查找全部
re.findall(pattern,string,flags=0)
- re.findall 查找全部
- Beautiful Soup(lxml每次都不能用,就放弃认真学了)
Beautiful Soup提供一些简单的、python式的函数用来处理导航、搜索、修改分析树等功能,而且Beautiful Soup自动将输入文档转换为Unicode编码,输出文档转换为utf-8编码。不需要考虑编码方式,除非文档没有指定一个编码方式,
创建bs对象:
from bs4 import BeautifulSoup
bs = BeautifulSoup(html,"lxml")
- json
JSON(JavaScript Object Notation) 是一种轻量级的数据交换格式,它使得人们很容易的进行阅读和编写。同时也方便了机器进行解析和生成,简单说就是javascript中的对象(结构为{“key”:“value”})和数组(结构["",""])。
JSON和XML的比较可谓不相上下。
因为python中有json模块(自带),所以只需要
import json
json模块提供了四个功能:dumps、dump、loads、load,用于字符串 和 python数据类型间进行转换。下面详细介绍一下
- json.dumps()
实现python类型转化为json字符串,返回一个str对象 把一个Python对象编码转换成Json字符串
从python原始类型向json类型的转化对照如下:
import json
listStr = [1, 2, 3, 4]
tupleStr = (1, 2, 3, 4)
dictStr = {"city": "重庆", "name": "哈哈"}
json.dumps(listStr)
# '结果:[1, 2, 3, 4]‘’
json.dumps(tupleStr)
# '[1, 2, 3, 4]'
# 注意:json.dumps() 序列化时默认使用的ascii编码,添加参数 ensure_ascii=False 禁用ascii编码,按utf-8编码
json.dumps(dictStr)
# '{"city": "\\u5317\\u4eac", "name": "\\u5927\\u5927"}'
print(json.dumps(dictStr, ensure_ascii=False))
# {"city": "重庆", "name": "哈哈"}
-json.dump()
将Python内置类型序列化为json对象后写入文件
import json
listStr = [{"city": "重庆"}, {"name": "哈哈"}]
json.dump(listStr, open("listStr.json","w"), ensure_ascii=False)
dictStr = {"city": "重庆", "name": "哈哈"}
json.dump(dictStr, open("dictStr.json","w"), ensure_ascii=False)
- json.loads()
把Json格式字符串解码转换成Python对象 从json到python的类型转化对照如下:
import json
strList = '[1, 2, 3, 4]'
strDict = '{"city": "北京", "name": "范爷"}'
json.loads(strList)
# [1, 2, 3, 4]
json.loads(strDict) # json数据自动按Unicode存储
# {u'city': u'\u5317\u4eac', u'name': u'\u5927\u732b'}
- json.load()
读取文件中json形式的字符串元素 转化成python类型
import json
strList = json.load(open("listStr.json"))
print(strList)
# [{u'city': u'\u5317\u4eac'}, {u'name': u'\u5927\u5927'}]
strDict = json.load(open("dictStr.json"))
print(strDict)
# {u'city': u'\u5317\u4eac', u'name': u'\u5927\u5927'}
- pyquery
初始化
from pyquery import PyQuery as pq
doc = pq(str)#字符串
doc = pq(url='https://www.baidu.com')#网页
doc = pq(filename='demo.html')#文件
自我感觉作用不大,就直接看的最快倍速,听了个大概,不过可以去看看https://www.jianshu.com/p/770c0cdef481