hadoop
文章平均质量分 68
liuyunshengsir
全栈工程师
展开
-
rabbitmq 集群搭建
RabbitMQ集群是一组RabbitMQ节点(broker)的集合,它们一起工作以提供高可用性和可伸缩性服务。RabbitMQ集群中的节点可以在同一物理服务器或不同的物理服务器上运行。RabbitMQ集群的工作原理是,每个节点在一个虚拟主机中提供服务,并通过网络进行通信和数据同步。当一个节点在集群中宕机时,其他节点可以接管其未处理的消息和队列,并尝试恢复数据同步,从而确保服务的可用性。要建立一个RabbitMQ集群,需要遵循以下步骤:安装RabbitMQ:在每个节点上安装RabbitMQ。原创 2023-11-15 20:45:00 · 883 阅读 · 0 评论 -
hive 查询不出数据(排队,很慢)
yarn application 查看情况yarn application1、-list 列出所有 application 信息 示例:yarn application -list 2、-appStates <States> 跟 -list 一起使用,用来筛选不同状态的 application,多个用","分隔; 所有状态:ALL,NEW,NEW_SAVING,SUBMITTED,ACCEPTED,RUNNING,FINISHED,FAILED,原创 2020-09-23 11:20:52 · 1336 阅读 · 0 评论 -
python 操作hdfs
1.安装依赖包pip install -i https://mirrors.aliyun.com/pypi/simple/ hdfs2.例子from hdfs import InsecureClienthdfs_client = InsecureClient('http://lys20191020:50070', user='hdfs')# 查看状态hdfs_client.status('.')#创建目录hdfs_client.makedirs('/test01/pyhdfs',per原创 2020-07-01 14:54:15 · 1112 阅读 · 2 评论 -
hbase在hue上的配置应用(hue的应用教程---3)
1.hbase相关配置的修改修改hbase-site.xml文件如下<?xml version="1.0"?><?xml-stylesheet type="text/xsl" href="configuration.xsl"?><!--/** * * Licensed to the Apache Software Foundation (ASF) ...原创 2018-10-09 11:05:41 · 1056 阅读 · 0 评论 -
hive在hue上的配置应用(hue的应用教程---4)
1.hive的相关配置操作修改hive-site.xml配置文件<?xml version="1.0" encoding="UTF-8" standalone="no"?><?xml-stylesheet type="text/xsl" href="configuration.xsl"?><!-- Licensed to原创 2018-10-09 11:15:45 · 1366 阅读 · 1 评论 -
storm单机安装
1.下载解压下载地址:http://archive.apache.org/dist/storm/apache-storm-0.9.5/apache-storm-0.9.5.tar.gz解压tar –zvxf apache-storm-0.9.5.tar.gz –C /usr/local/ ln -s /usr/local/apache-storm-0.9.5/ /usr/local...原创 2018-10-09 14:53:36 · 533 阅读 · 0 评论 -
mahout单机安装
1.下载解压http://archive.apache.org/dist/mahout/0.9/mahout-distribution-0.9.tar.gz解压到指定目录tar -zxvf mahout-distribution-0.9.tar.gz -c /usr/local/mahout/ 2.配置环境变量vi /etc/profile#增加如下语句expor...原创 2018-10-09 17:30:54 · 571 阅读 · 0 评论 -
oozie的安装配置
1.下载ooziehttp://archive.cloudera.com/cdh5/cdh/5/oozie-4.1.0-cdh5.5.2.tar.gz解压到指定路径 /usr/local/tar -xvf oozie-4.1.0-cdh5.5.0-sdh.tar.gz 2.修改配置文件修改oozie/conf/oozie-site.xml <property...原创 2018-10-10 13:56:46 · 2676 阅读 · 2 评论 -
centos7安装samba(最全教程)
关闭防火墙[root@localhost ~]# systemctl stop firewalld.service [root@localhost ~]# systemctl disable firewalld.service Removed symlink /etc/systemd/system/dbus-org.fedoraproject.FirewallD1.service.Remo...原创 2019-04-25 16:02:30 · 67169 阅读 · 16 评论 -
1.HDFS理论介绍
1.hdfs介绍Hadoop文件系统使用分布式文件系统设计开发。它是运行在普通硬件。不像其他的分布式系统,HDFS是高度容错以及使用低成本的硬件设计。HDFS拥有超大型的数据量,并提供更轻松地访问。为了存储这些庞大的数据,这些文件都存储在多台机器。这些文件都存储以冗余的方式来拯救系统免受可能的数据损失,在发生故障时。 HDFS也使得可用于并行处理的应用程序。2.HDFS的特点它适用于在分...原创 2019-07-20 21:15:29 · 392 阅读 · 0 评论 -
2.HDFS 常用的shell操作命令
常用的命令操作根据版本(最新版使用第二种方式)hadoop dfs -命令hdfs dfs -命令# 查看目录hdfs dfs -ls /# 创建文件夹hdfs dfs -mkdir /foodir# 删除文件夹hdfs dfs -rm -r /foodir# 上传文件hdfs dfs -put myfile.txt /foodir/myfile.txt# 查...原创 2019-07-20 21:17:33 · 367 阅读 · 0 评论 -
3.操作hdfs的api(python)
1.安装依赖包pip install hdfs2.连接# 连接hdfs服务from hdfs import InsecureClientclient = InsecureClient('http://183.168.10.11:50070', user='root')3.列出当前目录下的所有文件print client.list('/')4.创建新文件,并写入内容d...原创 2019-07-20 21:18:51 · 2190 阅读 · 0 评论 -
hdfs在hue上的配置应用(hue的应用教程---2)
1.Hadoop的相关配置文件的修改修改etc/hadoop/core-site.xml 文件<?xml version="1.0" encoding="UTF-8"?><?xml-stylesheet type="text/xsl" href="configuration.xsl"?><!-- Licensed under the Apac原创 2018-10-09 10:52:53 · 768 阅读 · 0 评论 -
hue的安装与配置(hue的应用教程---1)
1.下载版本http://gethue.com/downloads/releases/3.10.0/hue-3.10.0.tgz2.安装相关de的依赖包sudo yum install ant asciidoc cyrus-sasl-devel cyrus-sasl-gssapi cyrus-sasl-plain gcc gcc-c++ krb5-devel libffi-deve...原创 2018-10-08 18:00:46 · 2435 阅读 · 2 评论 -
SSH免密钥登录 ------Hadoop学习(2)
Hadoop的进程之间同信使用ssh方式,需要每次都要输入密码。为了实现自动化操作,需要配置ssh免密码登陆方式。(1)cd .ssh(2)ssh-keygen -t rsa 执行4次回车键(3)cp id_rsa.pub authorized_keys原创 2016-10-16 20:51:40 · 870 阅读 · 0 评论 -
HBase1.2.3安装与配置------Hadoop学习(3)
(1)环境安装的前提条件环境安装的前提条件是安装了JDK和hadoop,具体安装过程参照Hadoop 2.7.3安装与配置------Hadoop学习(1)网址:http://blog.csdn.net/liuyunshengsir/article/details/52816883(2)HBase1.2.3的下载 1.百度云下载地址链接:http://pan.baidu.com...原创 2016-11-27 19:37:07 · 1437 阅读 · 0 评论 -
docker创建hadoop2.7.3集群
1.利用yum安装docker2.确保docker安装完成后需要关闭防火墙并重启系统systemctl stop firewallds systemctl disable firewallds注意:执行完上面的命令之后需要重启系统reboot -h(重启系统)闭防火墙3.需要关闭selinux 解决方法:1:setenforce 0(原创 2018-01-22 15:17:04 · 737 阅读 · 0 评论 -
利用yum安装docker-compose
1. 添加EPEL源在Shell中运行以下命令,安装EPEL源:yum install -y epel-release2. 安装python-pip在Shell中运行以下命令,安装Python-pip软件包:yum install -y python-pip3. 安装docker-compose在Shell中运行以下命令,通过pip安装docker-compose:原创 2018-01-23 10:10:01 · 20633 阅读 · 5 评论 -
centos安装rstudio和docker安装rstudio
一.centos安装rstudio1. 安装EPEL库yum -y install epel-release2. 安装Ryum install R3. 安装OpenSSLyum install openssl098e4. 下载RStudio Server安装包wget http://download2.rstudio.org/rstudio-server-0.98.原创 2018-01-25 17:31:17 · 1192 阅读 · 0 评论 -
centos6.5安装jupyter
1.首先安装python的基础环境anaconda2-4.1.1-Linux-x86_64.sh 安装目录选择/usr/local/anaconda22.增加软连接,修改python的版本ln-s /usr/local/anaconda2/bin/python python3.修改yum依赖配置vim /usr/bin/yum把第一行的#!/usr/bin/python原创 2018-01-29 11:35:13 · 1705 阅读 · 0 评论 -
HBase常用命令
HBase – Hadoop Database,是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统,利用HBase技术可在廉价PC Server上搭建起大规模结构化存储集群。HBase是Google Bigtable的开源实现,类似Google Bigtable利用GFS作为其文件存储系统,HBase利用Hadoop HDFS作为其文件存储系统;Google运行MapReduce来处理Bigt...原创 2018-04-10 17:52:33 · 381 阅读 · 0 评论 -
zookeeper3.4.12的安装配置
1.1 下载进入要下载的版本的目录,选择.tar.gz文件下载下载链接:http://archive.apache.org/dist/zookeeper/stable/zookeeper-3.4.12.tar.gz 1.2 安装使用tar解压要安装的目录即可,以3.4.12版本为例这里以解压到/usr/myapp,实际安装根据自己的想安装的目录修改(注意如果修改,那后...原创 2018-07-17 17:32:21 · 3383 阅读 · 3 评论 -
kafka的安装配置(1)
1.先进行zookeeper的安装xian详见https://blog.csdn.net/liuyunshengsir/article/details/810851952.下载kafkahttp://archive.apache.org/dist/kafka/1.0.1/kafka_2.12-1.0.1.tgz3.解压tar -xzf kafka_2.12-1.0.1.ygz...原创 2018-07-17 17:43:27 · 210 阅读 · 0 评论 -
ansible部署安装及基本知识
1.ansible安装方式(1)使用yum安装yum install epel-release -yyum install ansible –y(2) 使用pip(python的包管理模块)安装pip install ansible#如果没pip,需先安装pip.yum可直接安装:yum install python-pippip install ansible...原创 2018-08-04 16:06:13 · 25296 阅读 · 0 评论 -
flume 1.6 安装及配置 日志采集配置
1.下载flume1.6https://mirrors.tuna.tsinghua.edu.cn/apache/flume/1.6.0/apache-flume-1.6.0-bin.tar.gz 2.安装jdk和Hadoop具体参照以前wen'文章3.flume 配置文件修改修改conf目录下的flume-env.sh文件 export JAVA_HOME=/etc/...原创 2018-09-29 10:39:30 · 1980 阅读 · 0 评论 -
Hadoop 2.7.3安装与配置------Hadoop学习(1)
1.JDK1.8.0_101的安装与配置(1)百度云下载地址链接:http://pan.baidu.com/s/1i5JOCiL 密码:8hyr(2)下载后在centos6.5中解压路径为/usr/jdk1.8.0_101(3)将java添加到环境变量中vi /etc/profile添加如下配置export JAVA_HOME=/usr/jdk1.8.0_101原创 2016-10-14 16:42:45 · 11942 阅读 · 0 评论