源码分析Netty中Handler的注册顺序问题

问题描述

ServerBootstrap注册了一个InboundHandler和一个OutboundHandler，

在InboundHandler调用了writeAndFlush，然后OutboundHandler的write方法不执行

原因

注册Handler时将InboundHandler置于OutboundHandler之前导致，应该调换顺序。

源码层面解析

当InboundHandler调用了writeAndFlush时，会调用AbstractChannelHandlerContext的

private void write(Object msg, boolean flush, ChannelPromise promise) {
        ...

        final AbstractChannelHandlerContext next = findContextOutbound(flush ?
                (MASK_WRITE | MASK_FLUSH) : MASK_WRITE);
        final Object m = pipeline.touch(msg, next);
        EventExecutor executor = next.executor();
        if (executor.inEventLoop()) {
            if (flush) {
                next.invokeWriteAndFlush(m, promise);
            } else {
                next.invokeWrite(m, promise);
            }
        } else {
            ...
        }
    }

此方法会先调用findContextOutbound找到能用的OutboundHandler。再来看看其具体实现

private AbstractChannelHandlerContext findContextOutbound(int mask) {
        AbstractChannelHandlerContext ctx = this;
        EventExecutor currentExecutor = executor();
        do {
            ctx = ctx.prev;
        } while (skipContext(ctx, currentExecutor, mask, MASK_ONLY_OUTBOUND));
        return ctx;
    }

如代码所示ctx = ctx.prev，上下文会去找prev即队列中的上一个handler。所以OutboundHandler要注册在inboundHandler之前才能被找到。