Flink内核源码解析 参考提交流程程序入口yarn-per-job模式:运行程序后启动的进程:Clifrontend(相当于client)Yarnjobclusterentrypoint(相当于JM)Taskexecutorrunner(相当于TM)程序入口:Org. Apache. Flink. Client cli. Clifrontend...
Maven实战(编辑中) 参考:《Maven实战》目录Maven使用入门编写POM编写主代码Maven使用入门编写POMPOM(Project Object Model,项目对象模型)定义了项目的基本信息,用于描述项目如何构建,声明项目依赖,等等。一个例子:第一行:XML头、指定了该xml文档的版本和编码方式project元素:所有pom.xml的根元素,声明了一些POM相关的命名空间及xsd元素,不是必须的,但使用这些属性能够让第三方工具(如IDE中的XML编辑器)帮助我们快速编辑POM。modelVersio
Flink原理、实战与性能优化(编辑中) 一、基本架构client将作业提交到jobmanagerJobManager整个集群的master节点,负责整个flink集群的任务调度和资源管理,整个集群有且仅有一个活跃的JobManager。从客户端获取提交的应用,根据TaskManager上TaskSlot使用情况,为提交的作业分配TaskSlot资源,并命令TaskManager启动应用。TaskManager负责具体任务执行和对应任务在每个节点资源的申请和管理...
Redis学习记录(编辑中) 参考:黑马视频文章目录Redis的应用redis启动基本操作数据类型string基本操作扩展操作Redis的应用热点数据查询:热点商品、热点新闻、咨询任务队列:秒杀、抢购即时信息:排行榜、访问统计时效性信息:验证码、投票分布式数据共享分布式锁redis启动redis服务启动:redis-server.exe默认端口:6379(pid随机生成)客户端启动:redis-cli.exe基本操作set:set key valueget:get key获取帮助:help 命令数据类型
Linux shell脚本(编辑中) shell脚本第一行#!/bin/bash其中#!不是注释,而是告诉操作系统将执行此脚本所用的解释器的名字。配置vim更适应shell编写:syntax on:set hlsearch:set tabstop=4:set autoindent可以去掉冒号,添加到~/.vimrc中helloWorld#! /bin/bash# helloworldhello world!# 文件名为helloworld运行:.helloworld...
《计算广告 第2版》第一部分-在线广告市场与背景(阅读学习记录) 本文以作者学习记录为主,多数为文章自我理解总结,可能存在错误,仅供读者参考,欢迎留言纠错和交流。第一章 在线广告综述免费模式的产品如何获取利润通过流量、数据和影响力这三项资产,将这三项资产通过商业产品转变成收入的过程就是商业化,数据变现和影响力变现都是在流量变现的基础上。广告活动的主线即出资人、媒体和手中三者利益博弈关系出资人(需求方):广告主、代表广告主利益的代理商、其他技术形态的采买方。媒体(供给方):媒体、其他技术形态的变现平台受众:被动参与方。品牌广告和效果广告品牌广告:目的是借
《算法设计与分析基础 第三版》(Java代码)第一章 绪论(编辑中) 文章目录求两个数最大公约数习题求根号n的向下取整的值,n为非负整数求两个数最大公约数 /*** * 欧几里得算法: * gcd(m,n) = gcd(n,m mod n) (m mod n 表示 m 除以 n 的余数) * 如果m mod n == 0 则 n为结果 * @param m * @param n * @return */ public static int alg1(int m, int n){
Hadoop基础知识 文章目录HadoopHDFSMapReduceHiveHadoopHDFSHDFS 分布式文件系统 读取和写入原理介绍HDFS中的角色NameNode:名称节点通常仅有一个,负责文件信息管理,切割文件,为文件分配指定位置保存。DataNode:数据阶段通常有多个,保存数据。写入原理: 当有文件要写入到HDFS的时候, 首先NameNode将文件按照指定大小切割, NameNode选取合适的DataNode列表, 写入第一快文件, 同时将该文件的第一个副本写入另
JAVA 正则表达式 正则的用途:1.匹配字符串2.查子串主要的java类java.util.regex.Matcherjava.util.regex.Pattern数量正则表达式?:表示?前面的字符出现1次或0次例如:"abc"能和"a?bc?“匹配;”"能和"a?"匹配System.out.println("".matches("a?"));//true*:表示*前面的字符出现0或n次System.out.println("aaaa".matches("a*"));//true+:表示+前面的字符
Linux命令学习整理 参考:https://billie66.github.io/TLCL/book/让命令行提示符显式完整路径1.编辑profile文件,添加环境变量PS1 [/etc/profile] export PS1='[\u@\h `pwd`]\$'2.source $>source /etc/profile文件系统中跳转查看当前目录名:pwd;列出多个目录的文件:ls 路径1 路径2列出所有文件(含隐藏):ls -a以长格式显示:ls -l 或者 ll输出结果按照文件大小排序
vscode使用 文章目录代码编辑插件:代码编辑整行文本复制mac:option+shift+上下箭头win:alt+shift+上下箭头删除一行mac:command+delwin:ctrl+shift+k批量操作mac:全选;option+shift+iwin:全选;alt+shift+i插件:中文点击扩展,搜索chinese代码运行code runner文件、文件夹图标vscode-icons...
SpringBoot 存在多个子项目时找不到其他模块bean的问题 AProject(父工程) BProject(子项目) CProject(子项目)本人遇到的情况是,SpringBoot启动类在BP...
hive 日期函数 一、unix_timestamp函数用法1、unix_timestamp() 得到当前时间戳2、如果参数date满足yyyy-MM-dd HH:mm:ss形式,则可以直接unix_timestamp(string date) 得到参数对应的时间戳3、如果参数date满足yyyy-MM-dd HH:mm:ss形式,则我们需要指定date的形式,在进行转换unix_timestamp(‘200...
Hive SQL 拼接函数(行转列):collect_set():把多个值去重拼接成一个数组collect_list():同上,不去重concat_ws():用指定分隔符,把数组拼成一个字符串–:concat_ws(分隔符,数组)字符串拼接:concat(v1,v2,v3)分割函数(列转行):split(字符串,分隔符):切割字符串split(字符串,起始索引):字符串部分截取lateral v...
flink作业多次挂掉,代码逻辑没有问题 由于代码为公司内部资源,不可以泄露,所以不能提供代码和截图。现象:在一次修改线上代码后,能够执行正常业务,但是作业经常频繁挂掉。在日志中没有提示代码逻辑有问题,显示的是系统资源不足。经过两天的频繁挂掉后,问了相关人士。最后反馈结果:反馈结果为:在业务代码中,使用了字符拼接代码,由于数据量大,字符串本身占用内存大,所以消耗大量系统资源,最终导致作业挂掉。解决办法:加内存。...