爬虫标题和内容_龙红云

from urllib import request
import re

page=54 #匹配段子吧的第五十四页
url="http://tieba.baidu.com/f?kw=%E6%AE%B5%E5%AD%90&ie=utf-8&pn="+str(page)
try:
    #请求头
    headers={'User-Agent':'User-Agent: Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/99.0.4844.51 Safari/537.36'}
    #定义请求，传入请求头
    req=request.Request(url,headers=headers)
    #打开网页
    resp=request.urlopen(req)
    #打印返回信息  解码
    content=resp.read().decode('utf-8')
    print(content)
    # .*? 匹配没用的数据
    # (.*?)匹配有用数据的分组
    pattern=re.compile(r'<a rel="noopener".*?title=(.*?)\s.*?>(>*?)</a>')
    #匹配html 找到所有的a链接标题和内容
    items=re.findall(pattern,content)
    #打印解析的内容
    for i in items:
        print(i[0]+'\t'+i[1])
except request.URLError as e:
    if hasattr(e,'code'):
        print(e.code)#响应码
    if hasattr(e,'reason'):
        print(e.reason)#异常原因