用户下订单之后15分钟支付实现_五.Flink实时项目电商用户行为分析之订单支付实时监控...

在电商网站中，订单的支付作为直接与营销收入挂钩的一环，在业务流程中非常重要。对于订单而言，为了正确控制业务流程，也为了增加用户的支付意愿，网站一般会设置一个支付失效时间，超过一段时间不支付的订单就会被取消。另外，对于订单的支付，我们还应保证用户支付的正确性，这可以通过第三方支付平台的交易数据来做一个实时对账。在接下来的内容中，我们将实现这两个需求。

1.1 模块创建和数据准备

同样地，在Flink-Project下新建一个maven module作为子项目，命名为gmall-order。在这个子模块中，我们同样将会用到flink的CEP库来实现事件流的模式匹配，所以需要在pom文件中引入CEP的相关依赖：

org.apache.flink

flink-cep_2.12

1.10.0

1.2 代码实现

在电商平台中，最终创造收入和利润的是用户下单购买的环节；更具体一点，是用户真正完成支付动作的时候。用户下单的行为可以表明用户对商品的需求，但在现实中，并不是每次下单都会被用户立刻支付。当拖延一段时间后，用户支付的意愿会降低。所以为了让用户更有紧迫感从而提高支付转化率，同时也为了防范订单支付环节的安全风险，电商网站往往会对订单状态进行监控，设置一个失效时间(比如15分钟)，如果下单后一段时间仍未支付，订单就会被取消。

1.2.1 使用CEP实现

我们首先还是利用CEP库来实现这个功能。我们先将事件流按照订单号orderId分流，然后定义这样的一个事件模式：在15分钟内，事件“create”与“pay”非严格紧邻：

Pattern orderEventPattern = Pattern.begin("order").where(newSimpleCondition() {

@Override

public booleanfilter(OrderEvent value) throwsException {

return"create".equals(value.getEventType());

}

}).followedBy("pay").where(newSimpleCondition() {

@Override

public booleanfilter(OrderEvent value) throwsException {

return"pay".equals(value.getEventType());

}

}).within(Time.minutes(15));

这样调用.select方法时，就可以同时获取到匹配出的事件和超时未匹配的事件了。

完整代码如下：

1)JavaBean--OrderEvent

@Data

@NoArgsConstructor

@AllArgsConstructor

public classOrderEvent {

privateLong orderId;

privateString eventType;

privateString txId;

privateLong eventTime;

}

2)JavaBean-- OrderResult

@Data

@NoArgsConstructor

@AllArgsConstructor

public classOrderResult {

privateLong orderId;

privateString eventType;

}

3)主程序

public class OrderTimeOutWithCepApp {

public static void main(String[] args) {

//1.创建执行环境

StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();

env.setParallelism(1);

env.setStreamTimeCharacteristic(TimeCharacteristic.EventTime);

//2.读取文本数据创建流,转换为JavaBean,并提取WaterMark

SingleOutputStreamOperator orderEventDS = env.readTextFile("input/OrderLog.csv")

.map(line -> {

String[] fields = line.split(",");

return new OrderEvent(Long.parseLong(fields[0]),

fields[1],

fields[2],

Long.parseLong(fields[3]));

})

.assignTimestampsAndWatermarks(new AscendingTimestampExtractor() {

@Override

public long extractAscendingTimestamp(OrderEvent element) {

return element.getEventTime() * 1000L;

}

});

//3.定义事件组

Pattern orderEventPattern = Pattern.begin("order").where(new SimpleCondition() {

@Override

public boolean filter(OrderEvent value) throws Exception {

return "create".equals(value.getEventType());

}

}).followedBy("pay").where(new SimpleCondition() {

@Override

public boolean filter(OrderEvent value) throws Exception {

return "pay".equals(value.getEventType());

}

}).within(Time.minutes(15));

//4.将事件组作用于流上

PatternStream eventPatternStream = CEP.pattern(orderEventDS.keyBy("orderId"), orderEventPattern );

//5.选择事件

SingleOutputStreamOperator result = eventPatternStream.select(new OutputTag("OutputTag") {

}, new orderTimeOutFunc(), new orderSelectFunc());

result.getSideOutput(new OutputTag("OutputTag") {}).print("OutputTag");

result.print();

}

public static class orderTimeOutFunc implements PatternTimeoutFunction {

@Override

public OrderResult timeout(Map> pattern, long timeoutTimestamp) throws Exception {

List orders = pattern.get("order");

return new OrderResult(orders.iterator().next().getOrderId(),"timeout"+timeoutTimestamp) ;

}

}

public static class orderSelectFunc implements PatternSelectFunction{

@Override

public OrderResult select(Map> pattern) throws Exception {

List pays = pattern.get("pay");

return new OrderResult(pays.iterator().next().getOrderId(),"payed");

}

}

}

1.2.2 使用Process Function实现

我们同样可以利用Process Function，自定义实现检测订单超时的功能。为了简化问题，我们只考虑超时报警的情形，在pay事件超时未发生的情况下，输出超时报警信息。

一个简单的思路是，可以在订单的create事件到来后注册定时器，15分钟后触发；然后再用一个布尔类型的Value状态来作为标识位，表明pay事件是否发生过。如果pay事件已经发生，状态被置为true，那么就不再需要做什么操作；而如果pay事件一直没来，状态一直为false，到定时器触发时，就应该输出超时报警信息。

具体代码实现如下：

public class OrderTimeoutWithoutCep2 {

public static void main(String[] args) throws Exception {

//1.创建执行环境

StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();

env.setParallelism(1);

env.setStreamTimeCharacteristic(TimeCharacteristic.EventTime);

//2.读取文件数据创建流,转换为JavaBean,提取事件时间

// SingleOutputStreamOperator orderEventDS = env.readTextFile("input/OrderLog.csv")

SingleOutputStreamOperator orderEventDS = env.socketTextStream("hadoop102", 7777)

.map(line -> {

String[] fields = line.split(",");

return new OrderEvent(Long.parseLong(fields[0]),

fields[1],

fields[2],

Long.parseLong(fields[3]));

}).assignTimestampsAndWatermarks(new AscendingTimestampExtractor() {

@Override

public long extractAscendingTimestamp(OrderEvent element) {

return element.getEventTime() * 1000L;

}

});

//3.按照订单ID分组

SingleOutputStreamOperator result = orderEventDS.keyBy(data -> data.getOrderId())

.process(new OrderTimeOutProcessFunc());

//4.打印

result.print("payed");

result.getSideOutput(new OutputTag("payed timeout") {

}).print("payed timeout");

result.getSideOutput(new OutputTag("pay timeout") {

}).print("pay timeout");

//5.执行

env.execute();

}

public static class OrderTimeOutProcessFunc extends KeyedProcessFunction {

//定义状态

private ValueState isCreateState;

private ValueState tsState;

@Override

public void open(Configuration parameters) throws Exception {

isCreateState = getRuntimeContext().getState(new ValueStateDescriptor("is-created", Boolean.class));

tsState = getRuntimeContext().getState(new ValueStateDescriptor("ts-state", Long.class));

}

@Override

public void processElement(OrderEvent value, Context ctx, Collector out) throws Exception {

//判断事件类型

if ("create".equals(value.getEventType())) {

//来的是创建订单事件

isCreateState.update(true);

//注册定时器

long ts = (value.getEventTime() + 900) * 1000L;

ctx.timerService().registerEventTimeTimer(ts);

//更新时间状态

tsState.update(ts);

} else if ("pay".equals(value.getEventType())) {

//来的是支付事件,判断创建状态

if (isCreateState.value() != null) {

//正常支付的订单

out.collect(new OrderResult(value.getOrderId(), "payed"));

//删除定时器

ctx.timerService().deleteEventTimeTimer(tsState.value());

//清空状态

isCreateState.clear();

tsState.clear();

} else {

ctx.output(new OutputTag("payed timeout") {

},

new OrderResult(value.getOrderId(), "payed timeout"));

}

}

}

@Override

public void onTimer(long timestamp, OnTimerContext ctx, Collector out) throws Exception {

//定时器触发,说明订单超时支付了

ctx.output(new OutputTag("pay timeout") {

},

new OrderResult(ctx.getCurrentKey(), "pay timeout"));

//清空状态

isCreateState.clear();

tsState.clear();

}

}

}

1.3 来自两条流的订单交易匹配

对于订单支付事件，用户支付完成其实并不算完，我们还得确认平台账户上是否到账了。而往往这会来自不同的日志信息，所以我们要同时读入两条流的数据来做合并处理。这里我们利用connect将两条流进行连接，然后用自定义的CoProcessFunction进行处理。

具体代码如下：

1.3.1 使用Connect方式实现

1)JavaBean--ReceiptEvent

@Data

@NoArgsConstructor

@AllArgsConstructor

public classReceiptEvent {

privateString txId;

privateString payChannel;

privateLong timestamp;

}

2)主程序

public class OrderReceiptAppWithConnect {

public static void main(String[] args) throws Exception {

//1.创建执行环境

StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();

env.setParallelism(1);

env.setStreamTimeCharacteristic(TimeCharacteristic.EventTime);

//2.读取文件数据创建流,转换为JavaBean,提取事件时间

SingleOutputStreamOperator orderEventDS = env.readTextFile("input/OrderLog.csv")

.map(line -> {

String[] fields = line.split(",");

return new OrderEvent(Long.parseLong(fields[0]),

fields[1],

fields[2],

Long.parseLong(fields[3]));

})

.filter(data -> !"".equals(data.getTxId()))

.assignTimestampsAndWatermarks(new AscendingTimestampExtractor() {

@Override

public long extractAscendingTimestamp(OrderEvent element) {

return element.getEventTime() * 1000L;

}

});

SingleOutputStreamOperator receiptEventDS = env.readTextFile("input/ReceiptLog.csv")

.map(line -> {

String[] fields = line.split(",");

return new ReceiptEvent(fields[0], fields[1], Long.parseLong(fields[2]));

})

.assignTimestampsAndWatermarks(new AscendingTimestampExtractor() {

@Override

public long extractAscendingTimestamp(ReceiptEvent element) {

return element.getTimestamp() * 1000L;

}

});

//3.按照流水ID分组之后进行Connect,再做后续处理

SingleOutputStreamOperator> result = orderEventDS.keyBy(data -> data.getTxId())

.connect(receiptEventDS.keyBy(data -> data.getTxId()))

.process(new OrderPayReceiptCoProcessFunc());

//4.打印数据

result.print("payAndReceipt");

result.getSideOutput(new OutputTag("payButNoReceipt") {

}).print("payButNoReceipt");

result.getSideOutput(new OutputTag("receiptButNoPay") {

}).print("receiptButNoPay");

//5.任务执行

env.execute();

}

public static class OrderPayReceiptCoProcessFunc extends CoProcessFunction> {

//定义状态

private ValueState orderEventValueState;

private ValueState receiptEventValueState;

private ValueState tsState;

@Override

public void open(Configuration parameters) throws Exception {

orderEventValueState = getRuntimeContext().getState(new ValueStateDescriptor("order-state", OrderEvent.class));

receiptEventValueState = getRuntimeContext().getState(new ValueStateDescriptor("receipt-state", ReceiptEvent.class));

tsState = getRuntimeContext().getState(new ValueStateDescriptor("ts-state", Long.class));

}

@Override

public void processElement1(OrderEvent value, Context ctx, Collector> out) throws Exception {

//判断receiptEventValueState状态是否为Null

if (receiptEventValueState.value() == null) {

//到账数据没有到达

orderEventValueState.update(value);

//注册5秒后的定时器

long ts = (value.getEventTime() + 5) * 1000L;

ctx.timerService().registerEventTimeTimer(ts);

tsState.update(ts);

} else {

//到账数据已经到达

//输出数据

out.collect(new Tuple2<>(value, receiptEventValueState.value()));

//删除定时器

ctx.timerService().deleteEventTimeTimer(tsState.value());

//清空状态

orderEventValueState.clear();

receiptEventValueState.clear();

tsState.clear();

}

}

@Override

public void processElement2(ReceiptEvent value, Context ctx, Collector> out) throws Exception {

//判断receiptEventValueState状态是否为Null

if (