实时计算
文章平均质量分 84
Flink
bluedraam_pp
不是有希望才坚持,是坚持才有希望
展开
-
Hbase 的三个应用
上述代码利用了 Hbase 的 checkAndMutate 功能,先检查 cust 是否存在,如果存在则返回 true ,用户需要被屏蔽,如果不存在,则返回 false ,并将用户插入到 Hbase table 中,整个过程是原子性的。在多个节点同时运行这段代码时,每个节点都可以生成一个唯一的序列号,以确保生成的序列号在整个分布式系统中是唯一的。在获取到锁之后,执行用户指定的函数,然后通过用户输入来释放锁的状态。它通过自旋操作来等待锁的释放,并尝试获取锁,以保证共享资源的访问的一致性和正确性。原创 2023-12-31 17:55:13 · 805 阅读 · 0 评论 -
Flink Stream 处理数据倾斜
Flink 数据倾斜原创 2023-04-16 12:40:31 · 454 阅读 · 0 评论 -
Flink 的算子介绍(下)
Flink 算子原创 2023-02-24 14:24:57 · 363 阅读 · 0 评论 -
Flink 的算子介绍(上)
Flink 算子用法总结原创 2023-02-24 11:28:53 · 1099 阅读 · 0 评论 -
Flink 监控
基本的需求监控 job 的内存、网络、CPU 的使用情况监控 job 的状态,running or dead监控 job exception总之,我的目的是不能让 job 因内存、网络、cpu 不足造成的程序崩溃metric 的类型了解什么是 Metric看看下面这个 blog , 应该会有一个大概的了解:http://wuchong.me/blog/2015/08/01/ge...原创 2019-06-19 19:37:07 · 3620 阅读 · 0 评论 -
spark-kafka 开发环境搭建
开发环境Ubuntu pycharmspark-kafka 环境搭建使用 pip 下载最新的 pyspark ,不能直接链接 kafka,需下载额外的 jar 包,我遇到了好多坑。zkpython 安装使用公司的网络,和校园网的概念是一样的,所以 dns 有问题,在网上看到在自家的 wifi 的环境下是可以的,所以回到家里面,终于有了网,但是下载 zkpython...原创 2018-04-21 02:29:48 · 1158 阅读 · 0 评论