排查线上死循环方案(arthas、动态跟踪技术)

最近在学习dubbo的源码时，发现了javassit技术，接着了解了相关的asm、javaagent等字节码的一些玩法。无意间看到了btrace、arthas。接下来就是对arthas的一些玩法。

这边使用arthas去排查由于死循环引起的cpu升高问题。

问题：

例如在报错的时候打印日志时日志不全或者是没有给出错误状态码，那正常想到的就是改代码加日志重新部署？但如果是线程池的问题或者是一些不易复现，重启会破坏现场。

例如以下场景：

由HashMap、HashBiMap或者是一些不适当的操作引起的死循环问题，我们该如何去定位呢？

现场模拟

由于Map的死循环不好构建，这边模拟构建在hash桶中的链表

@Slf4j
@Component
public class SimulateHashMap implements InitializingBean {

    private Node head = new Node(0);

    @Override
    public void afterPropertiesSet() throws Exception {
        //构造出 0->1->2->3->4-> 1->2....的循环链表
        Node node1 = new Node(1);
        Node secondNode = node1;
        head.next = node1;

        Node node;
        for (int i = 2; i < 5; i++) {
            node = new Node(i);
            node1.next = node;
            node1 = node1.next;
        }
        node1.next = secondNode;
    }

    public Node getNode(int val) {
        Node root = head;
        while (root != null) {
            if (root.val == val) return root;
            root = root.next;
        }
        return null;
    }
}

这边模拟异步更新操作

@Service
public class TestServiceImp implements TestService {
    private static ExecutorService service = Executors.newCachedThreadPool();

    @Autowired
    SimulateHashMap map;

    @Override
    public void update(int val) {
        service.submit(() -> {
            Node node = map.getNode(5);
            //todo 模拟更新。。。。。
        });
    }
}

当我们去访问不存在的节点的时候就会造成死循环。

分析

启动arthas：

java -jar arthas-boot.jar

选择启动的项目：输入1

通过命令：

thread -all //查询所有线程
thread -n 4 //查询cpu占比最高的4个线程

这时候我们可以发现 id为58、59、60的三个线程占用的cpu异常高。

通过命令

thread 58 //查询id为58的线程的调用链

在这边我们可以发现在SimulateHashMap.getNode方法中卡住了，这时候我们基本就可以确定是因为死循环的问题，我们可以进一步验证。

因为jvm运行是字节码文件，我们可以通过修改Java文件重新编译一遍得到class文件，然后调用redefineClasses替换掉原本的字节码文件。

我们验证是否是死循环，一般在同一个hash桶的链表(红黑树)长度几乎不可能超过50的，那如果超过50的长度我们就可以确定是死循环。

将SimulateHashMap.java文件的getNode方法进行改写

    public Node getNode(int val) {
        int i = 0;
        Node root = head;
        while (root != null) {
            if(i++==50){
                System.out.println("没有该节点，别动了快歇歇吧");
                return null;
            }
            if (root.val == val) return root;
            root = root.next;
        }
        return null;
    }

通过命令查询到加载该类的类加载器

使用该类的类加载器去编译改后的Java文件

mc -c 18b4aac2 src/main/java/com/hy/test/demo/cache/SimulateHashMap.java

将编译后的class文件植入jvm中。

retransform com/hy/test/demo/cache/SimulateHashMap.class

植入后我们可以通过反编译查看是否值入成功

jad com.hy.test.demo.cache.SimulateHashMap

看到代码已经成功植入到jvm中了，这时候也可以在控制台看到输出：

这个时候我们就可以确认问题出现死循环上。

确定问题后需要通过reset将被 Arthas 增强过的类全部还原

reset

Arthas 服务端stop时会重置所有增强过的类，stop服务端后再次连接通过反编译查看jvm中的增强类已经被还原

上述植入代码若使用echo会更加便捷，这边就不再演示。

此文章只是用于了解arthas的使用。