数据治理一-Atlas2.1编译踩坑之路

坑爹的东西,花了我2天时间才成功编译!主要一个问题卡的太久 - 。 -。把我的踩坑过程记录一下,希望可以帮助大家,有其他问题可以在评论区留言,我会一一解答。

一、编译环境

contOS7

JDK8

Maven 3.6

部署包:2.1.0  https://atlas.apache.org/#/Downloads

mvn仓库地址:http://maven.aliyun.com/nexus/content/groups/public

编译环境不一样,问题肯能不一样。

二、安装atlas

1、下载好包,移到/opt目录下执行tar-xzvf进行解压,目录如下

2、进入apache-atlas-sources-2.1.0目录,然后执行

mvn clean -DskipTests package -Pdist,embedded-hbase-solr(自带hbase和solr)

如果出现node-saas安装目录没有权限,则执行(此处我踩了2天坑,( Ĭ ^ Ĭ ))

sudo mvn clean -DskipTests package -Pdist,embedded-hbase-solr

注意:root的环境变量和sudo的环境变量不一定一样的。我就是root状态下执行命令结果安装node-saas的时候提示没权限。sudo 执行之后编译环境版本存在问题。

如果sudo执行命令出现编译错误,sudo mvn -v 查看环境信息是否一致。如果不一致,则需要将sudo下的环境变量改为和root一致。具体修改方法如下

  1. 执行 sudo visudo
  2. 将Defaults env_reset改为Defaults !env_reset 取消掉对PATH变量的重置
  3. 修改~/.bashrc中环境变量 ,最后添加alias sudo='sudo env PATH=$PATH'

这样sudo执行命令时所搜寻的路径就是系统的PATH变量中的路径,如想添加其他变量也是类似

安装完成之后:会查看到所有jar都显示SUCCESS

三、安装过程问题解决

1、安装node-saas失败

gyp verb command install [ '6.17.1' ]
gyp ERR! UNCAUGHT EXCEPTION
gyp ERR! stack /mnt/hswx/apache-atlas-sources-2.1.0/node_modules/_mkdirp@1.0.4@mkdirp/lib/opts-arg.js:7
gyp ERR! stack     opts = { mode: 0o777, fs, ...opts }
gyp ERR! stack                               ^^^
gyp ERR! stack
gyp ERR! stack SyntaxError: Unexpected token ...
gyp ERR! stack     at createScript (vm.js:56:10)
gyp ERR! stack     at Object.runInThisContext (vm.js:97:10)
gyp ERR! stack     at Module._compile (module.js:549:28)
gyp ERR! stack     at Object.Module._extensions..js (module.js:586:10)
gyp ERR! stack     at Module.load (module.js:494:32)
gyp ERR! stack     at tryModuleLoad (module.js:453:12)
gyp ERR! stack     at Function.Module._load (module.js:445:3)
gyp ERR! stack     at Module.require (module.js:504:17)
gyp ERR! stack     at require (internal/module.js:20:19)
gyp ERR! stack     at Object.<anonymous> (/mnt/hswx/apache-atlas-sources-2.1.0/node_modules/_mkdirp@1.0.4@mkdirp/index.js:1:79)
gyp ERR! System Linux 3.10.0-1127.19.1.el7.x86_64
gyp ERR! command "/usr/bin/node" "/mnt/hswx/apache-atlas-sources-2.1.0/node_modules/_node-gyp@7.1.2@node-gyp/bin/node-gyp.js" "rebuild" "--verbose" "--libsass_ext=" "--libsass_cflags=" "--libsass_ldflags=" "--libsass_library="
gyp ERR! cwd /mnt/hswx/apache-atlas-sources-2.1.0/node_modules/_node-sass@5.0.0@node-sass
gyp ERR! node -v v6.17.1
gyp ERR! node-gyp -v v7.1.2
gyp ERR! Node-gyp failed to build your package.
gyp ERR! Try to update npm and/or node-gyp and if it does not help file an issue with the package author.
Build failed with error code: 7
[npminstall:runscript:error] node-sass@* scripts.postinstall run "node scripts/build.js" error: RunScriptError: Run "sh -c node scripts/build.js" error, exit code 1
? Install fail! RunScriptError: post install error, please remove node_modules before retry!
Run "sh -c node scripts/build.js" error, exit code 1
RunScriptError: post install error, please remove node_modules before retry!
Run "sh -c node scripts/build.js" error, exit code 1
    at ChildProcess.proc.on.code (/usr/lib/node_modules/cnpm/node_modules/runscript/index.js:96:21)
    at emitTwo (events.js:106:13)
    at ChildProcess.emit (events.js:191:7)
    at maybeClose (internal/child_process.js:920:16)
    at Process.ChildProcess._handle.onexit (internal/child_process.js:230:5)
npminstall version: 3.28.0
npminstall args: /usr/bin/node /usr/lib/node_modules/cnpm/node_modules/npminstall/bin/install.js --fix-bug-versions --china --userconfig=/root/.cnpmrc --disturl=https://npm.taobao.org/mirrors/node --registry=https://r.npm.taobao.org node-sass --save-dev

此问题困扰了我好多天,单独编译不行,该npm源也不行。就是很纳闷root账号执行创建居然没有权限。所以最后只好采用sudo 方式执行命令。

使用该命令:

sudo mvn clean -DskipTests package -Pdist,embedded-hbase-solr

使用sudo会出现和root编译环境不一致问题,按照我上面说的,sudo和root使用一套环境变量的修改方法即可。

2、Sqoop.Jar无法下载

[ERROR] Failed to execute goal on project
sqoop-bridge-shim: Could not resolve dependencies for project
org.apache.atlas:sqoop-bridge-shim:jar:2.1.0: Could not find artifact
org.apache.sqoop:sqoop:jar:1.4.6.2.3.99.0-195 in nexus-aliyun
(http://maven.aliyun.com/nexus/content/groups/public) -> [Help 1]
[ERROR] 
[ERROR] To see the full stack trace of the
errors, re-run Maven with the -e switch.

atlas编译用的sqoop.jar比较扯淡,1.4.6.2.3.99.0-195这个版本不太好找。我是用的是阿里的仓库http://maven.aliyun.com/nexus/content/groups/public下载,阿里仓库不存在该jar包。

可以手动下载该jar包

下载地址:Index of /repositories/releases/org/apache/sqoop/sqoop/1.4.6.2.3.99.0-195

执行下面命令安装到本地仓库

mvn install:install-file -Dfile=sqoop-1.4.6.2.3.99.0-195.jar -DgroupId=org.apache.sqoop -DartifactId=sqoop -Dversion=1.4.6.2.3.99.0-195 -Dpackaging=jar

之后在执行编译命令即可。


微信扫一扫或者微信搜索DarkKing,一起学习和交流JAVA和大数据相关知识。

回复关键字「资料」可以获取30G JAVA架构师视频学习资料哦~ 

  • 4
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 5
    评论
apache-atlas-2.1.0-hive-hook.tar.gz是Apache Atlas项目中的一个软件包。Apache Atlas是一个开源的数据治理和元数据框架,用于收集、集成、索引和搜索数据资产。它提供了一个统一的视图来管理企业中的所有数据资产,包括表、列、模式、实体和关系等。而apache-atlas-2.1.0-hive-hook.tar.gz是Atlas项目为了与Hive集成而提供的一个插件。 Hive是一个构建在Hadoop之上的数据仓库基础设施工具,用于处理大规模的结构化数据。它提供了类似于SQL的查询和分析功能,可以将数据批量导入、导出和查询。通过与Apache Atlas的集成,可以实现对Hive中数据资产的元数据管理和治理。 在实际的应用中,apache-atlas-2.1.0-hive-hook.tar.gz可以被部署到Hive的服务器上,并与Hive的插件机制进行集成。通过配置Hive的元数据存储URL、用户名和密码等信息,Atlas可以自动从Hive中提取元数据,并将其索引到Atlas的元数据仓库中。这样,用户可以在Atlas的界面中浏览和搜索Hive中的表、列和关系,并进行数据资产的管理和治理。 此外,apache-atlas-2.1.0-hive-hook.tar.gz还提供了一些其他功能,如基于分类标签的权限控制、数据血缘追踪、数据脱敏等。通过这些功能,用户可以更好地理解和管理Hive中的数据资产,提高数据治理的效率和质量。 总之,apache-atlas-2.1.0-hive-hook.tar.gz是Apache Atlas项目中用于与Hive集成的插件,通过它可以实现对Hive中数据资产的元数据管理和数据治理

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 5
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

王老狮

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值