记一次线程爆满导致服务器崩溃的问题排查

问题介绍：
测试服务器突然无法连接，ssh登录不上。只有重启才能解决。重启一天后，又连接不上了。
于是有了下面的排查过程，最终发现是有个java程序一直在创建线程，导致线程达到服务器最大数量，服务器崩溃。

1. 重启服务器

重启后，ssh连接发现下面问题
fork faild:Cannot allocate memory

以为是内存满了
于是，free -h,查看内存情况，还有，观察一段时间后，内存没多大变化

2. 修改最大线程数

经过各种百度，都说可以通过修改服务器的最大线程数来解决，于是我也这么干了。当时做的时候没有截图，所以下面截图是网上找的，凑合看看。

• 查看最大进程数 sysctl kernel.pid_max

• ps -eLf | wc -l查看 进 程数

• 修改最大 进 程数后系统恢复

echo 1000000 > /proc/sys/kernel/pid_max

• 永久生效

echo "kernel.pid_max=1000000 " >> /etc/sysctl.conf
sysctl -p

3. 查找线程最大的java程序

上一步扩大了线程数量后，感觉有点不对，因为之前没有这么配置都可以正常运行，为什么突然服务器挂了呢？肯定是有程序在作怪。
于是决定找出占用线程最多的程序。回顾最近几天，服务器中只部署了几个springboot程序。问题一定出在它们之中。

查看线程数量前20的java程序
ps -Lef |awk ‘{sum[$2]++}END{for(pid in sum) print pid, sum[pid]}’|sort -nr -k 2|head -n 20

[root@se-test-lky01 ~]# ps -Lef |awk '{sum[$2]++}END{for(pid in sum) print pid, sum[pid]}'|sort -nr -k 2|head -n 20
16074 3100
31386 1226
20120 1072
19548 985
9697 829
3005 796
641 344
19016 324
16924 315
17870 300
6417 293
8351 171
7332 168
18259 167
19821 161
16311 157
18433 151
18048 136
14347 104
2559 100

观察一段时间后，发现进程id为16074的java程序的线程数不断增长。

4. 导出问题程序的线程日志

[root@se-test-lky01 ~]#jstack 16074 >thread_dump.log

分析日志，发现下面情况，线程数量不断增加，代码位置在FtpMonitorProcess.java:85

"Thread-4655" #4774 prio=5 os_prio=0 tid=0x00007f84aa2fe000 nid