- 博客(515)
- 收藏
- 关注
RSS订阅原创 CDH Agent起不来-Could not determine hostname or ip address; proceeding.
现象某CDH Hadoop集群环境在重启机器后Agent无法启动，报错信息如下，[17/Dec/2019 16:37:53 +0000] 6741 MainThread agent ERROR Could not determine hostname or ip address; proceeding.Traceback (most recent call last):...
2019-12-17 17:38:30
896
原创 Trafodion Troubleshooting-failed because A clone should not have regions to restore
现象在HBase中做RESTORE_SNAPSHOT时报错，hbase(main):022:0* restore_snapshot 'RLZYGLXT_FILE_snapshot'ERROR: org.apache.hadoop.hbase.snapshot.RestoreSnapshotException: clone snapshot={ ss=RLZYGLXT_FILE_snapsh...
2019-12-12 12:24:11
691
原创 HDFS missing blocks的处理办法
Hadoop集群中遇到了HDFS missing blocks的错误，处理办法如下：切换到hdfs用户su - hdfs使用hadoop fsck命令检查坏的块hadoop fsck /输出示例如下 ，.../user/trafodion/.hiveStats/HIVE.DMA.DMA_ENTTYPE_STAT_ORC-1532663517555-NOSTRIPENUMR...
2019-12-11 11:46:55
8856
1
原创 EsgynDB之递增序列
EsgynDB在很早期的版本就已经开始支持了SEQUENCE(序列)这一对象了。SEQUENCE的用法符合标准用法，与其他关系型数据库如Oracle使用方法几乎没有区别。以下是摘自SQL手册里面的关于创建SEQUENCE的语法，CREATE SEQUENCE [[catalog-name.]schema-name.]sequence-name[START WITH integer][INCR...
2019-12-11 11:05:56
421
原创 Trafodion Troubleshooting-org.apache.hadoop.hbase.exceptions.OutOfOrderScannerNextException
现象使用INSERT或UPSERT插入表报以下错误，但UPSERT USING LOAD或LOAD INTO则执行成功。*** ERROR[8448] Unable to access Hbase interface. Call to ExpHbaseInterface::nextRow returned error HBASE_ACCESS_ERROR(-706). Cause: java....
2019-11-25 12:20:59
541
原创 Clouderera SCM Server启动失败之pam_unix(sshd:session) session closed for user root分析定位
昨天在某客户环境进行CDH Hadoop的安装，安装还算比较顺利，但在启动Cloudera SCM Server和Agent服务的时候均启动失败。[root@YXnode01 ~]# service cloudera-scm-server restartRestarting cloudera-scm-server (via systemctl): Job for cloudera-scm-s...
2019-11-05 14:43:53
13460
原创 EsgynDB 升级CDH从5.13.3到5.16.2后导致HBase启不来的问题排查
最近在项目测试中需要把CDH从5.13.3升级到5.16.2，升级过程中比较顺利，但是升级后HBase Master总是过一小会儿就出问题，HBase有两个Master，一主一备，正常情况下，查看HBase实例时应该是显示一个Master(主)和一个Master(备)，但升级后看到主备状态，Region也无法OPEN，过一段时间后HBase Master出现异常，如下图所示：虽然看似状态正常，...
2019-11-04 17:01:42
622
原创 CDH HIVE报错引发的一系列血案
今天偶尔发现一个CDH集群中的Hive MetaStore Server发生了异常，于是检查相关日志，具体日志为Hive MetaStore Server所在节点的/var/log/hive/hadoop-cmf-hive-HIVEMETASTORE-sbh01.esgyn.cn.log.out，日志报错如下，2019-10-31 06:22:51,467 INFO org.apache.ha...
2019-11-02 15:06:20
1799
原创 Esgyn Designer工具指定JDK启动
Esgyn Designer工具的启动需依赖JDK 1.8版本。如果客户端机器上默认的JDK版本低于1.8，则Esgyn Designer可能无法启动。然而，有些时候，客户端机器原来可能有其他一些工具也依赖于默认的JDK，且需要JDK版本为1.7。方法为，修改Esgyn Designer工具的启动参数脚本，添加启动的JDK路径。此时客户端的默认JDK还是1.7，但需要在客户端是单独再安装一个JD...
2019-10-25 15:56:47
662
原创 get views on table查看表上关联的视图
Trafodion支持语法“get views on table <tablename>”，可以看到一个表上关联的视图。在Trafodion中，如果表有被其他视图引用，则无法直接用"drop table <tablename>"来进行删除。这种情况下，我们需要使用"drop table <tablename> cascade"来进行级联删除。然而，如果某一个...
2019-10-25 14:43:54
632
原创 HDFS failover启动错误Parent znode does not exist
现象HDFS配置了高可用，NameNode和DataNode状态看起来均正常，但两个failover进程异常。查看failover日志，报错信息如下，tail -100f /var/log/hadoop-hdfs/hadoop-cmf-hdfs-FAILOVERCONTROLLER-hxpernode01.esgyn.cn.log.out2019-10-24 19:51:13,396 F...
2019-10-24 21:18:39
723
1
原创 记一次OBJECTS元数据表处于RIT的解决办法
最近一客户环境由于Hadoop故障，恢复时出现“_MD_".OBJECTS处于RIT状态，且长期不能恢复。使用Trafodion用户执行HBCHECK输出如下，HBase is available!HBase version: 1.1.2.2.4.3.0-227HMaster: namenode-2.esg.local,16000,1568772195966Number of Regi...
2019-09-19 20:45:50
425
原创 EsgynDB新版本之正则函数
EsgynDB2.7版本中支持三种常用的正则函数，REGEXP_REPLACEREGEXP_SUBSTRREGEXP_COUNTREGEXP_REPLACE描述根据正则表达式做字符串替换语法REGEXP_REPLACE(instr,pattern,replace_str)示例//将 01234 替换为 0abcselect regexp_replace('01...
2019-09-19 19:11:36
336
2
原创 EsgynDB 存储过程SP/SQL
EsgynDB的新版本支持存储过程SP/SQL，语法与Oracle的PL/SQL大部分兼容。语法CREATE OR REPLACE PROCEDURE <PROCEDURE NAME>( [IN in_param param_type,...] [OUT ou_param param_type,...])ISDECLARE param1 param_type;...
2019-09-17 17:49:21
466
原创 Trafodion 从元数据表中获取字段信息的相关总结
Trafodion中所有对象的元数据信息都保存在schema "_MD_"下面，对象的信息、字段的属性等。这里我们描述几种常用的和获取字段信息有关的SQL方法。测试表如下，--create test tableDROP TABLE IF EXISTS aaa;CREATE TABLE aaa ( a NUMERIC(18, 8), b varchar2(10), c INT, d...
2019-09-16 09:28:37
367
原创 Trafodion 修改默认的ssh通信端口
默认情况下，Trafodion每个节点之间的ssh通信是用默认的22端口，但有时候基于一些网络安全考虑我们可能会禁用22端口而使用其他端口来做为ssh通信的端口，如20022。修改方法为：修改trafodion的 ~/.ssh/config 配置文件，增加Port=20022, xxx为非默认的端口号即可， config文件权限为600。即，//切换trafodion用户cdwcd .s...
2019-09-07 09:55:00
245
2
原创 Trafodion 查看表的创建时间与修改时间
Trafodion中每个对象（如表、索引等）创建后，会在元数据表中增加相应的记录，主要元数据表为"_MD_".objects。以下是"_MD_".objects的表结构，SQL>showddl "_MD_".objects; CREATE TABLE TRAFODION."_MD_".OBJECTS ( CATALOG_NAME ...
2019-08-26 22:42:20
395
6
原创 EsgynDB 使用clipVarchar功能
clipVarchar假如数据库中一张表，定义宽度为100KB，实际存储宽度为1KB，默认情况下从SQL引擎->Mxosrvr->客户端，两个阶段传输均按最大定义宽度100KB来传输，在网络带宽不是特别好的情况下性能会下降较大。当有clipVarchar=1时，数据在Moxsrvr层会被截取为实际存储宽度，即1KB，从而提升Mxosrvr->客户端的网络传输性能。JDBC...
2019-08-26 16:48:44
379
原创 EsgynDB Troubleshooting-Problem binding to /0.0.0.0:60020 : Address already in use.
现象EsgynDB所在的集群，HBase有4台RegionServer，因某种原因有一个RegionServer下线。从CDH Manager中手动启动此RegionServer无法启动，报错信息如下，2019-08-03 10:40:48,501 ERROR org.apache.hadoop.hbase.regionserver.HRegionServerCommandLine: Reg...
2019-08-03 15:40:59
859
原创 EsgynDB Troubleshooting-*** ERROR[8837] Internal error occurred.
现象trafci或JDBC连接数据库突然出现卡顿的现象，卡顿之后报错*** ERROR[8837] Internal error occurred.，[trafodion@uatzf04 scripts]$ trafciWelcome to QianBase Command Interface Copyright (c) 2015-2019 Esgyn CorporationHost...
2019-07-29 16:50:36
399
原创 EsgynDB 使用dump命令导出表结构
EsgynDB自2.4版本以后添加一个新的dump命令，可以用于导出模式、表或其他对象定义到文件中，具体语法为，DUMP object_type object_name TO FILE 'location'; object_type : SCHEMA | TABLE | VIEW| SEQUENCE| LIBRARY | FUNCTION 比如现在我想导出afa整个模式的定义，d...
2019-07-15 16:13:34
474
原创 Linux OpenLAP 修改max open files
默认安装OpenLDAP，其max open files个数太小，设置为1024.[root@HXnode01 limits.d]# ps -ef | grep slpad root 357137 351442 0 13:49 pts/2 00:00:00 grep --color=auto slpad[root@HXnode01 limits.d]# ps -ef ...
2019-07-15 13:58:51
896
原创 EsgynDB Troubleshooting-ImportError: No module named crontab
现象EsgynDB数据库安装完成后，EsgynDB Manager管理器中的备份/还原模块报以下错误，Failed to get schedules :, Reason : Traceback (most recent call last): File "/opt/trafodion/esgyndb/sql/scripts/edb_cron_scheduler.py", line 16, ...
2019-07-13 17:28:15
344
原创 EsgynDB Troubleshooting-Snapshot metadata is currently locked
现象EsgynDB中做备份还原的时候报错“Snapshot metadata is currently locked for Tag”，>>RESTORE TRAFODION, TAG 'full4backup_00212429333584910646';*** ERROR[5050] RESTORE command could not be completed. Reason...
2019-07-11 13:12:50
234
原创 EsgynDB Troubleshooting-Backup already exists
现象EsgynDB中做备份集import导入的时候报错“Backup full20190702_00212428826064850102 already exists”，SQL>import backup from location 'hdfs://172.31.234.16:8020/tmp/fulldb12parallel',tag 'full20190702_00212428826...
2019-07-04 14:59:53
405
原创 EsgynDB Troubleshooting-Backup location is invalid
现象EsgynDB在做备份集import的时候报错“Backup location is invalid”，具体错误信息如下，SQL>import backup from location 'hdfs://172.31.234.16:8020/tmp/fulldb12parallel',tag 'full1133';*** ERROR[5050] IMPORT BACKUP comm...
2019-07-04 14:51:20
235
原创 Trafodion 使用describe statement查看返回类型
Trafodion中，SQL语句的每个字段的输出都是有对应的返回类型的，是字符类型，还是数值类型，是日期类型还是时间戳类型，不仅如此，输出字段的长度、精度等信息都是可以拿到的。我们通过"describe statement"语句可以获取到这些信息，具体方法为，prepare s from select xxx;describe statement s;举个简单的例子，我们创建一个有很多类...
2019-07-01 16:47:08
305
原创 Trafodion 查看详细编译时间
数据库的SQL语句的执行主要分为编译+执行两个动作，编译包括binder、parser、Transformer、Normalizer等具体步骤。一个SQL语句的执行时间是编译时间+执行时间一体的。对于大数据量的表扫描或者是大表关联的场景，一般执行时间是比较长的，编译时间相对就短的很多了，但对OLTP类的语句，因为大部分属于按主键按索引的精确查询，执行时间是非常短暂的，可能大多是毫秒级别，这种场景...
2019-06-17 17:39:24
473
原创 EsgynDB新版本之支持nullable主键
在之前的EsgynDB版本中，主键默认是非空的，如果创建表时主键字段非指定NOT NULL属性，则创建表会报错。在后续版本中EsgynDB在实现上面做了一些调整，即如果建表时主键字段非指定NOT NULL属性，则会在建表时自动给主键字段添加NOT NULL属性。SQL>create table t7(a varchar(10), primary key (a));--- SQL ope...
2019-06-11 20:07:17
263
原创 EsgynDB新版本中使用trafci连接指定mxosrvr
EsgynDB支持使用TRAFCI命令行的方式来进行任意SQL的执行和操作，TRAFCI基于JDBC，需要依赖对应版本的JDBC驱动包。trafci支持Linux版本和Windows版本。EsgynDB是一个分布式的数据库，一般由多个节点组成，小至4节点、6节点，大至上百个节点。EsgynDB组件中的DCS连接组件，负责处理客户端到服务端的各种连接请求。DCS包括DCSMaster、DCSS...
2019-06-04 18:51:17
678
2
原创 EsgynDB SPSQL存储过程之修改日志级别打印所有语句
EsgynDB的SPSQL存储过程的执行日志保存在每个节点的$TRAF_HOME/logs/trafodion.sql.java.log文件中，默认情况下数据库不会打印存储过程中的执行信息，如执行的每条命令。存储过程的日志级别的配置信息保存在$TRAF_CONF/conf/log4f.sql.config文件，默认的日志级别为INFO，log4j.logger.org.trafodion.sq...
2019-06-01 09:53:06
314
原创 EsgynDB SPSQL存储过程之中文支持
在当前版本中，EsgynDB的SPSQL存储过程默认是不支持中文的，如果需要支持中文，需要在cds目录下添加对中文支持的配置文件，并同步到每个EsgynDB节点。中文配置文件命名为hplsql-site.xml，内容如下，<configuration><property> <name>hplsql.conn.default</name> ...
2019-06-01 09:44:30
433
原创 CDH升级导致EsgynDB启不来的问题分析
现象近来有一个客户那个经常性的EsgynDB起不来。从CDH Manager看起来Hadoop集群是正常的，但trafodion用户执行hbcheck确显示HBase状态异常。原因使用trafodion用户执行hbcheck显示Unavailable，但CDH Manager中显示正常。于是执行hbase shell想检查是否正常执行相关HBase命令，发现hbase可执行文件。检查HBa...
2019-05-11 20:49:11
239
原创 libssl.so.1.0.文件导致DataNode启不来
今天突然发现Hadoop集群中的一台DataNode启不来，其他节点都是正常的，此DataNode启动过程中日志只有以下错误信息，2019-05-06 16:36:01,106 ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: RECEIVED SIGNAL 15: SIGTERM除了上述错误信息，也没有其他更有效的信息了，感觉很是...
2019-05-06 22:34:37
293
原创 EsgynDB 函数之unix_timestamp及from_unixtime
在EsgynDB 2.5版本及后续版本中，支持了对MySQL数据库中unix_timestamp及from_unixtime函数的兼容性实现。unix_timestamp 用于得到一个固定timestamp对应的unix timestamp值，类型为整形。from_unixtime用于从一个固定的unix timestamp值来获取对应的timestamp时间戳，类型为timestamp。...
2019-04-29 13:11:02
372
原创 Linux 安装配置VNC
本文介绍如果在Linux机器安装VNC SERVER并从远程Windows机器安装VNC Viewer连接Linux机器。主要步骤如下，在目标Linux机器安装VNC SERVERyum install -y vnc yum install -y vnc-server配置VNC在目标Linux机器编辑/etc/sysconfig/vncservers并添加以下配置，VNCSE...
2019-04-18 14:37:41
498
原创 Trafodion Troubleshooting-HBase Master Too many open files
2## 现象准备地说这是一个由于HBase问题导致Trafodion不可用的问题。重启Hadoop后，HBase Master过了一会儿自动Down掉，RegionServer显示正常。HBase Master日志有较多报错"java.net.SocketException: Too many open files"分析判断是打开文件数过多导致，可能与ulimit设置有关。解决(1)...
2019-04-11 18:46:04
491
原创 Trafodion Troubleshooting-The certificate file is corrupted
现象使用客户端工具连接Trafodion数据库，客户端工具报以下错误，An error occurred while establishing the connection: Long Message: ***ERROR[29721] The certificate file xxx.cer is corrupted. Details: Type: org.trafodion.jdbc.t4....
2019-03-22 17:19:11
242
原创 Trafodion Troubleshooting-HBase is not available
现象刚启动完HBase，使用Trafodion用户执行hbcheck检查hbase状态，发现HBase不可用，报错如下，HBase is not availableHBase not available. Waiting 10 seconds.ZooKeeper Quorum: dev02.esgyn.cn,dev01.esgyn.cn,dev03.esgyn.cn, ZooKeeper ...
2019-03-18 18:47:20
384
原创 EsgynDB 替换License步骤
本文简要描述如何更新EsgynDB的License。1 检查当前License状态这可以通过多种方式实现（以下任何一种方法即可），(1) decoder命令使用trafodion用户在其中一台EsgynDB节点上执行以下命令输出License状态[trafodion@dev02 ~]$ decoder -f /etc/trafodion/esgyndb_license -aLicen...
2019-03-07 10:58:31
658
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人