1、问题描述:
迭代请求http web服务,中途遇到异常报错:
raise SSLError(e, request=request)\nrequests.exceptions.SSLError: HTTPSConnectionPool(host='172.17.0.1', port=443): Max retries exceeded with url: /api/events/rule/?page_size=20&lock_id=140351160399616 (Caused by SSLError(SSLEOFError(8, 'EOF occurred in violation of protocol (_ssl.c:877)'),)
2、问题排查
# 源代码
response = requests.request("POST", url=url, headers=headers, data=payload)
3、问题原因:
http的连接数超过最大限制。默认的情况下连接是keep-alive的,所以导致服务器保持了太多连接而不能再新建连接
4、解决方法:
每次请求完成后,主动关闭请求
response = requests.request("POST", url=url, headers=headers, data=payload)
response.close()
首先,从描述和排查中我们可以看到,问题发生在迭代请求一个HTTPS服务时,超过了最大重试次数,并抛出了SSLEOFError异常。
问题原因分析部分,指出是由于http的连接数超过最大限制,导致服务器不能再新建连接。这个分析是正确的。默认情况下,HTTP连接是keep-alive的,即多个请求可以使用同一个TCP连接。如果在一个时间段内,同一TCP连接的请求过多,超过了服务器或客户端的最大限制,那么新的请求就无法建立连接。
解决方法部分提到每次请求完成后,主动关闭请求。这个解决方法是不准确的。在Python的`requests`库中,当我们使用`requests.request()`方法发送请求时,会自动处理连接的打开和关闭。也就是说,当我们调用`response = requests.request("POST", url=url, headers=headers, data=payload)`时,requests库会自动打开一个到指定URL的连接,发送请求,然后关闭连接。如果我们手动调用`response.close()`,实际上是在尝试关闭一个已经被requests库关闭的连接,这可能会导致其他问题。
正确的解决方法应该是调整你的代码,使其在迭代请求时控制连接的数量。例如,你可以使用`time.sleep()`函数在每次请求之间添加延迟,以减少单位时间内发送的请求数量。或者,你可以设置requests库的`Session`对象的`max_pool_size`属性,来限制同一时间存在的连接的最大数量。
以下是一个例子:
import requests
import time
s = requests.Session()
s.mount('https://', requests.adapters.HTTPAdapter(pool_connections=10, pool_maxsize=10)) # 限制同一时间存在的连接的最大数量
for i in range(50): # 例如我们有50个请求
url = "https://172.17.0.1/api/events/rule/?page_size=20&lock_id=140351160399616"
headers = {...} # 设置你的headers
payload = {...} # 设置你的payload
response = s.post(url, headers=headers, data=payload)
print(response.text) # 或者处理你的响应数据
time.sleep(1) # 每次请求后等待1秒
在这个例子中,我们创建了一个`Session`对象,并设置了其`HTTPAdapter`的`pool_connections`和`pool_maxsize`属性,以限制同一时间存在的连接的最大数量。然后我们在每次迭代中发送一个请求,并在每次请求后等待1秒。这样就能有效地控制单位时间内发送的请求数量,避免超过服务器的最大连接数限制。