爬虫学习笔记（四）：数据提取

爬虫学习笔记（四）
数据提取：

1. 正则表达式
   正则表达式是用来匹配字符串非常好用的方法，看看规则

模式	描述
a	单个字符。a这里只是个代表，可以是任意非特殊字符
[abc]	匹配a或b或c。a、b和c只是个代表，a、b和c可以是任意非特殊字符
[^abc]	匹配不是a或b或c以外的所有字符。
[a-z]	匹配a到z的任意一个字符
\d	匹配一个数字字符。等价于 [0-9]。
\D	匹配一个非数字字符。等价于 [^0-9]。
\w	匹配字母、数字、下划线。等价于’[A-Za-z0-9_]’。
\W	匹配非字母、数字、下划线。等价于 ‘[^A-Za-z0-9_]’。
\cx	匹配由x指明的控制字符。例如， \cM 匹配一个 Control-M 或回车符。x 的值必须为 A-Z 或 a-z 之一。否则，将 c 视为一个原义的 ‘c’ 字符。
\f	匹配一个换页符。等价于 \x0c 和 \cL。
\n	匹配一个换行符。等价于 \x0a 和 \cJ。
\r	匹配一个回车符。等价于 \x0d 和 \cM。
\s	匹配任何空白字符，包括空格、制表符、换页符等等。等价于 [ \f\n\r\t\v]。注意 Unicode 正则表达式会匹配全角空格符。
\S	匹配任何非空白字符。等价于 [^ \f\n\r\t\v]。
\t	匹配一个制表符。等价于 \x09 和 \cI。
\v	匹配一个垂直制表符。等价于 \x0b 和 \cK。
$	匹配输入字符串的结尾位置。如果设置了 RegExp 对象的 Multiline 属性，则 $ 也匹配 ‘\n’ 或 ‘\r’。要匹配 $ 字符本身，请使用 $。
( )	标记一个子表达式的开始和结束位置。子表达式可以获取供以后使用。要匹配这些字符，请使用 ( 和 )。
*	匹配前面的子表达式零次或多次。要匹配 * 字符，请使用 *。
+	匹配前面的子表达式一次或多次。要匹配 + 字符，请使用 +。
.	匹配除换行符 \n 之外的任何单字符。要匹配 . ，请使用 . 。
[	标记一个中括号表达式的开始。要匹配 [，请使用 [。
?	匹配前面的子表达式零次或一次，或指明一个非贪婪限定符。要匹配 ? 字符，请使用 ?。
\	将下一个字符标记为或特殊字符、或原义字符、或向后引用、或八进制转义符。例如， ‘n’ 匹配字符 ‘n’。’\n’ 匹配换行符。序列 ‘\’ 匹配 “”，而 ‘(’ 则匹配 “(”。
^	匹配输入字符串的开始位置，除非在方括号表达式中使用，此时它表示除了该字符以外的所有字符的集合。要匹配 ^ 字符本身，请使用 ^。
{	标记限定符表达式的开始。要匹配 {，请使用 {。
	指明两项之间的一个选择。要匹配
-	表示字符范围是从其前边的那个字符到其后边的那个字符。要匹配-请使用-。

限定符	说明
*	匹配前面的子表达式零次或多次。例如，zo* 能匹配 “z” 以及 “zoo”。* 等价于{0,}。
+	匹配前面的子表达式一次或多次。例如，‘zo+’ 能匹配 “zo” 以及 “zoo”，但不能匹配 “z”。+ 等价于 {1,}。
?	匹配前面的子表达式零次或一次。例如，“do(es)?” 可以匹配 “do” 、 “does” 中的 “does” 、 “doxy” 中的 “do” 。? 等价于 {0,1}。
{n}	n 是一个非负整数。匹配确定的 n 次。例如，‘o{2}’ 不能匹配 “Bob” 中的 ‘o’，但是能匹配 “food” 中的两个 o。
{n,}	n 是一个非负整数。至少匹配n 次。例如，‘o{2,}’ 不能匹配 “Bob” 中的 ‘o’，但能匹配 “foooood” 中的所有 o。‘o{1,}’ 等价于 ‘o+’。‘o{0,}’ 则等价于 ‘o*’。
{n,m}	m 和 n 均为非负整数，其中n <= m。最少匹配 n 次且最多匹配 m 次。例如，“o{1,3}” 将匹配 “fooooood” 中的前三个 o。‘o{0,1}’ 等价于 ‘o?’。请注意在逗号和两个数之间不能有空格。

来源https://www.cnblogs.com/lsdb/p/9817644.html
其实没有必要记住那么多，带有删除线的都可以基本不用看了。
常用方法

• re.match
  • re.match 尝试从字符串的起始位置匹配一个模式，如果不是起始位置匹配成功的话，match()就返回none
  • 函数语法：
    re.match(pattern, string, flags=0)
• re.search
  • re.search 扫描整个字符串并返回第一个成功的匹配。
  • 函数语法：
    re.search(pattern, string, flags=0)
• re.sub
  • re.sub 替换字符串
    re.sub(pattern,replace,string)
• re.findall
  • re.findall 查找全部
    re.findall(pattern,string,flags=0)

2. Beautiful Soup（lxml每次都不能用，就放弃认真学了）
   Beautiful Soup提供一些简单的、python式的函数用来处理导航、搜索、修改分析树等功能，而且Beautiful Soup自动将输入文档转换为Unicode编码，输出文档转换为utf-8编码。不需要考虑编码方式，除非文档没有指定一个编码方式，
   创建bs对象：

from bs4 import BeautifulSoup
bs = BeautifulSoup(html,"lxml")

3. json
   JSON(JavaScript Object Notation) 是一种轻量级的数据交换格式，它使得人们很容易的进行阅读和编写。同时也方便了机器进行解析和生成，简单说就是javascript中的对象（结构为{“key”:“value”}）和数组（结构["",""]）。
   JSON和XML的比较可谓不相上下。
   因为python中有json模块（自带），所以只需要

import json

json模块提供了四个功能：dumps、dump、loads、load，用于字符串 和 python数据类型间进行转换。下面详细介绍一下

• json.dumps()

实现python类型转化为json字符串，返回一个str对象 把一个Python对象编码转换成Json字符串
从python原始类型向json类型的转化对照如下：

import json
listStr = [1, 2, 3, 4]
tupleStr = (1, 2, 3, 4)
dictStr = {"city": "重庆", "name": "哈哈"}
json.dumps(listStr)
# '结果：[1, 2, 3, 4]‘’
json.dumps(tupleStr)
# '[1, 2, 3, 4]'
# 注意：json.dumps() 序列化时默认使用的ascii编码，添加参数 ensure_ascii=False 禁用ascii编码，按utf-8编码
json.dumps(dictStr) 
# '{"city": "\\u5317\\u4eac", "name": "\\u5927\\u5927"}'
print(json.dumps(dictStr, ensure_ascii=False))
# {"city": "重庆", "name": "哈哈"}

-json.dump()

将Python内置类型序列化为json对象后写入文件

import json
listStr = [{"city": "重庆"}, {"name": "哈哈"}]
json.dump(listStr, open("listStr.json","w"), ensure_ascii=False)
dictStr = {"city": "重庆", "name": "哈哈"}
json.dump(dictStr, open("dictStr.json","w"), ensure_ascii=False)

• json.loads()

把Json格式字符串解码转换成Python对象 从json到python的类型转化对照如下：

import json
strList = '[1, 2, 3, 4]'
strDict = '{"city": "北京", "name": "范爷"}'
json.loads(strList) 
# [1, 2, 3, 4]
json.loads(strDict) # json数据自动按Unicode存储
# {u'city': u'\u5317\u4eac', u'name': u'\u5927\u732b'}

• json.load()

读取文件中json形式的字符串元素 转化成python类型

import json
strList = json.load(open("listStr.json"))
print(strList)
# [{u'city': u'\u5317\u4eac'}, {u'name': u'\u5927\u5927'}]
strDict = json.load(open("dictStr.json"))
print(strDict)
# {u'city': u'\u5317\u4eac', u'name': u'\u5927\u5927'}

4. pyquery
   初始化

    from pyquery import PyQuery as pq
    doc = pq(str)#字符串
    doc = pq(url='https://www.baidu.com')#网页
    doc = pq(filename='demo.html')#文件

自我感觉作用不大，就直接看的最快倍速，听了个大概，不过可以去看看https://www.jianshu.com/p/770c0cdef481