大数据
文章平均质量分 71
fei_tian123
hello world!
展开
-
centos7下的elasticsearch-6.2.4安装
一.elasticsearch安装1. 下载安装包: elasticsearch-6.2.4.rpm 上传到/home/hadoop 下2. 直接解压安装:[root@cib129 hadoop]# rpm -ivh elasticsearch-6.2.4.rpm 3. 修改配置:[root@cib129 hadoop]# vi /etc/elasticsearch/elasticsearch.y...原创 2018-05-03 15:42:50 · 2668 阅读 · 0 评论 -
centos7 下 elasticsearch与数据库同步工具Logstash-input-jdbc安装
elasticsearch与数据库同步工具Logstash-input-jdbc1. elasticsearch与数据库同步时需要用到一个插件Logstash-input-jdbc,他是数据logstash的,因此需要先下载logstash。这里logstash版本需要和elasticsearch版本一致。这儿我下载的是logstash-6.2.4.tar.gz 2. Logstash-inpu...原创 2018-05-04 09:54:52 · 513 阅读 · 0 评论 -
spark对邮件数据的解析
public class AttFromDateFilter { /** * 函数的目的/功能 共通的SQL查询方法 * @param sql * @return * @throws SQLException */ public List<AttachmentBean> commonLst(String sql) thr...原创 2018-05-18 17:10:11 · 1006 阅读 · 0 评论 -
spark调用Elasticsearch(调用脚本)
#!/bin/bashLIB="/usr/local/data/lib/esLib"jars=""for f in $LIB/* do if [[ "$jars" != "" ]];then jars=$jars,$f else jars=$f fidonespark-submit --class $2 \--master yarn-cluster \--num-...原创 2018-05-18 17:31:11 · 361 阅读 · 0 评论 -
elasticsearch-2.4.1安装
1.安装jdk1.8 cd /usr/java tar -zxvf jdk1.8.0_111.tar.gz vi /etc/profile 在结尾添加export JAVA_HOME=/usr/java/jdk1.8.0_111export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jarexport PATH=$JAVA_HO...原创 2018-06-08 16:22:41 · 490 阅读 · 0 评论 -
spark解析CSV文件
import java.utilimport org.apache.spark.sql.types.{DataTypes, StructField}import org.apache.spark.sql.{Row, SQLContext}import org.apache.spark.{SparkConf, SparkContext}object TelephoneData13 { def ma...原创 2018-06-08 16:28:06 · 3835 阅读 · 0 评论 -
nero4j导入关系数据以及节点操作
1. 先看下构建好的关系图谱如下:2. 构建节点,并且导入数据create table ch_from_to_count(id int primary key auto_increment,fromWho VARCHAR(100),toWho varchar(100),caseId VARCHAR(24),countNum int(11))charset utf8;表中插入数据:insert i...原创 2018-06-08 16:37:21 · 701 阅读 · 0 评论 -
CDH5.15.0 安装搭建
CDH5.15.0安装前期准备工作部署:所有节点安装必要的工具包:yum -y install net-tools vim ntp libaio 1. 所有节点配置禁用SELinux vi /etc/selinux/config SELINUX=disabled2. 关闭集群所有节点防火墙 systemctl stop ...原创 2018-12-17 09:46:52 · 655 阅读 · 0 评论