Python3 爬取CSDN文章时报错 ssl.SSLCertVerificationError: [SSL: CERTIFICATE_VERIFY_FAILED]

最新推荐文章于 2024-07-10 10:19:14 发布

LLL源

最新推荐文章于 2024-07-10 10:19:14 发布

阅读量7.9k

点赞数 4

文章标签： python ssl 爬虫 ssl报错

本文链接：https://blog.csdn.net/weixin_44129464/article/details/88079617

版权

在使用Python3的urllib库爬取网站时遇到ssl.SSLCertVerificationError，原因是大部分HTTPS网站需要SSL证书。为忽略证书验证，可以导入ssl模块并设置 context。这种方法适用于简单爬虫，但在生产环境中应谨慎使用，因为这降低了安全性。

摘要由CSDN通过智能技术生成

想用python3内置的urllib库爬一下新闻、文章，结果报错
代码如下:

import urllib.request
import re

url="https://www.csdn.net/"
header=("User-Agent", "Mozilla/5.0")
opr=urllib.request.build_opener()
opr.addheaders=[header]
data=opr.open(url).read()
data=data.decode("utf-8") 

pat='<a href="(https://blog.csdn.net/.*?/article/details/.*?)"' 
allurl=re.compile(pat).findall(data)
'''print(allurl)'''
for i in range(0,len(allurl)):
    try:
        print("这是爬取的第{}个".format(i))
        thisurl=allurl[i]
        file="//Users//liuyuan//Desktop//1234//"+str(i)+".html"
        urllib.request.urlretrieve(thisurl,file)
        print("----成功----")
    except urllib.error.URLError as e:
        if hasattr(e,"code"):
            print(e.code)
        if hasattr(e,"reason"):
            print(e.reason)

运行上述