Kubernetes环境配置JVM内存

我们知道JVM在docker容器环境中是无法正确检测到可用内存的

遇到问题的项目技术栈为JDK 8 + Spring Boot + Tomcat，部署在docker环境。项目运行过程中出现了java.lang.OutOfMemoryError: Java heap space异常，当时项目的部署文件如下：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43

apiVersion: apps/v1
kind: StatefulSet
metadata:
name: api-deployment
labels:
app: api
spec:
serviceName: api-app
replicas: 2
selector:
matchLabels:
app: api
template:
metadata:
labels:
app: api
spec:
terminationGracePeriodSeconds: 30
containers:
- image: …
imagePullPolicy: “Always”
name: api
ports:
- containerPort: 8080
livenessProbe:
httpGet:
path: /
port: 8080
initialDelaySeconds: 300
periodSeconds: 5
readinessProbe:
httpGet:
path: /
port: 8080
initialDelaySeconds: 60
periodSeconds: 5
securityContext:
capabilities:
add:
- SYS_PTRACE
envFrom:
- secretRef:
name: secret

问题应该出在k8s内存设置与JVM的配置这边，网上查询资料后发现tomcat可以通过CATALINA_OPTS环境变量来设置JVM参数，UseCGroupMemoryLimitForHeap可以让JVM自动检测容器的可用内存，MaxRAMFraction为容器内存和堆内存的比例，比如容器内存为2G，MaxRAMFraction为2，则最大堆内存为2G/2=1G，这里将MaxRAMFraction设置为2比较安全，设置了这两个参数后，JVM就能通过检测容器的内存来自动调整堆内存大小，不用再显示设置堆内存了。

更新后的配置文件里加了如下代码：

1
2
3
4
5
6
7

…
env:
- name: CATALINA_OPTS
value: “-XX:+UnlockExperimentalVMOptions -XX:+UseCGroupMemoryLimitForHeap -XX:MaxRAMFraction=2”
resources:
requests:
memory: “512Mi”

项目运行一段时间后发现问题依旧，研究了下UseCGroupMemoryLimitForHeap参数，发现它是通过读取系统/sys/fs/cgroup/memory/memory.limit_in_bytes文件来检测内存的，登录到容器里查看了下该文件，发现里面是一个很大的值：9223372036854771712，等于没有内存限制，查了下资料发现这个字段是通过k8s文件中的resources->limits的这个属性来配置的，更新文件，加了如下代码：

1
2

limits:
memory: “2048Mi”

观察一段时间后内存就没再溢出，最终完整配置文件如下：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51

apiVersion: apps/v1
kind: StatefulSet
metadata:
name: api-deployment
labels:
app: api
spec:
serviceName: api-app
replicas: 2
selector:
matchLabels:
app: api
template:
metadata:
labels:
app: api
spec:
terminationGracePeriodSeconds: 30
containers:
- image: …
imagePullPolicy: “Always”
name: api
ports:
- containerPort: 8080
livenessProbe:
httpGet:
path: /
port: 8080
initialDelaySeconds: 300
periodSeconds: 5
readinessProbe:
httpGet:
path: /
port: 8080
initialDelaySeconds: 60
periodSeconds: 5
securityContext:
capabilities:
add:
- SYS_PTRACE
env:
- name: CATALINA_OPTS
value: “-XX:+UnlockExperimentalVMOptions -XX:+UseCGroupMemoryLimitForHeap -XX:MaxRAMFraction=2”
envFrom:
- secretRef:
name: secret
resources:
requests:
memory: “512Mi”
limits:
memory: “2048Mi”