个人经验
for your wish
好记性不如烂笔头。个人笔记用的博客
展开
-
数据平台权限控制-基于猛犸
每张表的存储路径 如下 hdfs://cluster1/user/jmkx_data/hive_db/jmkx_data.db/ods_plm_newbudget_budgetcostreport_dd。专注本项目的逻辑和代码,不在本项目内的人员无法查看代码逻辑,但是可查询表。其中的jmkx_data是库名也是项目名。可控制筛选框把对应数据开放给对应权限的人。只开放表中的某一部分数据给对应的人员。在hive查询 两种方式都可以。原创 2023-01-29 10:27:47 · 462 阅读 · 0 评论 -
Yarn使用
点击左侧Cluster->Scheduler查看队列使用情况,使用内存和CUP,查看队列中running 的任务查看任务状态->点击右侧ApplicationMaster ActiveJob是正在跑的一段sql,下面是已经完成的点击Description进去查看详情 (一段sql划分成了不同的stage)进入Active Stages查看到stage的任务分布到不同节点状况 可见有的 0ms完成 有的几分钟(甚至有时0ms和一两个小时) 。这种不均衡的就是倾斜的.....原创 2021-07-05 13:19:01 · 365 阅读 · 0 评论 -
IDEA打jar包以及pom增加依赖
然后在工程中存在一个out目录 将jar包导出就可以了在pom.xml添加依赖在pom.xml写了依赖dependency以后,可在dependencies看是否导入了,如果没有,右键->maven->reimport...原创 2019-04-09 13:45:25 · 1585 阅读 · 0 评论 -
windows远程连接同一网段的另一台电脑拷贝其文件
开启远程连接:属性->远程设置->勾选“允许远程协助连接这台计算机”和“允许允许任意版本远程桌面的计算机连接”,点击“应用”并“确认”:1.打开运行窗口,输入mstsc2.打开远程桌面连接对话框,输入需要远程的计算机的IP地址3.点击显示选项,展开Tab后,选择”本地资源“4.点击本地资源Tab底部的详细信息,我们发现有个驱动器,我们勾选上 点击展...原创 2019-05-09 15:19:21 · 2367 阅读 · 0 评论