Flink自定义数据源,模拟无界流随机生成数据(1)

本文介绍了如何在Flink中创建自定义数据源,模拟无限流数据生成。通过设置并行度和使用GeneratorFunction,文章展示了如何将模拟数据转换为二元组并进行键值聚合。作者还分享了个人的编程经历,并提供了一份全面的Python开发学习资料。
摘要由CSDN通过智能技术生成


//环境设置
StreamExecutionEnvironment env =
StreamExecutionEnvironment.getExecutionEnvironment();
//设置并行度
env.setParallelism(1);
//自定义数据源
GeneratorFunction<Long, Demo1> generatorFunction = new GeneratorFunction<Long, Demo1>(){

        @Override
        public Demo1 map(Long aLong) throws Exception {
            String[]users="Mary,Alice,Bob,Cary".split(",");
            String[]urls="./home,./cart,./fav,./prod?id=1,./prod?id=2".split(",");
            //生成随机数
            Random random = new Random();
            Demo1 demo1 = new Demo1();
            demo1.setUser(users[random.nextInt(users.length)]);
            demo1.setUrl(urls[random.nextInt(urls.length)]);
            //System.currentTimeMillis():当前时间戳
            demo1.setTs(System.currentTimeMillis());
            return demo1;
        }
    };

//

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值