用到的库有:requests库,re库,csv库。
使用正则爬取网页的心得体会:
- 正则表达式越简短越好,尽可能降低解析查询时间;
- 简短的正则表达式所抓取到结果除了你想得到的数据以外,可能还有其他匹配到的数据,如若有,再修改正则表达式使其更复杂(精确)一些。
- 源代码中的有些(没有规律)双引号,在正则中可能要用单引号表示,如果正则无误,但又匹配不到数据,可以尝试修改引号部分。
以下直接上代码:
import requests
import re
import csv
headers = {
"User-Agent": "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/78.0.3904.108 Safari/537.36"