BigData
文章平均质量分 94
BigData
BusyMonkey
这个作者很懒,什么都没留下…
展开
-
Hadoop-2.6.0 上配置 spark
在安装了hadoop之后一,安装Scala1,到http://www.scala-lang.org/download/下载与Spark版本对应的Scala。Spark1.2对应于Scala2.10的版本。这里下载scala-2.10.4.tgz。2,解压安装Scala1), 执行#tar -axvf scala-2.10.4.tgz,解压到/root/spark/scala-2....原创 2015-10-26 20:12:23 · 1178 阅读 · 0 评论 -
storm 启动异常 Error when processing event
storm 启动异常 Error when processing event转载 2016-05-18 15:17:00 · 1312 阅读 · 0 评论 -
springMVC + hadoop + httpclient 文件上传请求直接写入hdfs
springMVC + hadoop + httpclient 文件上传请求直接写入hdfs原创 2016-04-01 13:50:04 · 4610 阅读 · 1 评论 -
linux hadoop 32位 单机
linux hadoop 32位 单机原创 2016-05-27 10:04:41 · 1163 阅读 · 0 评论 -
hadoop FileSystem 重写 Progress 方法获取文件上传总进度
hadoop FileSystem 重写 Progress 方法获取文件上传总进度原创 2016-04-14 17:03:14 · 3322 阅读 · 2 评论 -
Ambari部署hadoop完全分布式集群
1、我这里用的是三个虚拟机 centos 6.4 64位操作系统,一台做Master,两台做Slave2、三台机器都安装jdk,我这里的版本是7_79,同样是64位的3、修改hostname(很关键,因为只有生成的ssh-keygen会用到)在/etc/sysconfig/network文件里面修改,同时添加hosts文件,在/etc/hosts文件中修改,我这里三个节点的这两个文件分别如...原创 2016-02-18 18:38:31 · 9492 阅读 · 6 评论 -
HADOOP基本操作命令
转自:http://www.cnblogs.com/gpcuster/archive/2010/06/04/1751538.html 1、启动HADOOPsh bin/start-all.sh 2、关闭HADOOPsh bin/stop-all.sh 3、查看文件列表查看hdfs中/user/admin/aaron目录下的文件。sh bin/hadoo...转载 2015-09-23 12:37:34 · 641 阅读 · 0 评论 -
linux(CentOS 7)下eclipse配置maven-3.3.3 和新建maven项目开发hadoop-2.6.0接口
linux(CentOS 7)下eclipse配置maven-3.3.3 和新建maven项目开发hadoop-2.6.0接口原创 2015-09-16 15:35:31 · 2714 阅读 · 0 评论 -
使用NFSv3将HDFS挂载到本地
centos7,使用NFSv3将HDFS挂载到本地原创 2015-09-03 09:33:00 · 4378 阅读 · 0 评论 -
Hadoop入门进阶课程4--HDFS原理及操作
转载:http://www.cnblogs.com/shishanyuan/p/4637631.html本文版权归作者和博客园共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接,博主为石山园,博客地址为 http://www.cnblogs.com/shishanyuan 。该系列课程是应邀实验楼整理编写的,这里需要赞一下实验楼提供了学习的新方式,可以边看博转载 2015-08-31 17:11:45 · 1178 阅读 · 0 评论 -
hadoop下操作hive(与本机mysql元数据关联)
hadoop下操作hive(与本机mysql元数据关联)原创 2016-06-14 17:24:18 · 1113 阅读 · 0 评论 -
完全分布式Hadoop 调用DFS上so文件做缓存分发 跑mr
1、前提是你得搭建一个完全分布式环境,不然测试缓存分发没有意义,搭建教程:点击打开链接2、使用JNA调用so:点击打开链接3、这里为了只演示so文件的缓存分发,调用到的JNA jar包我就直接跟WordCount一起打包成一个jar包了。4、测试程序如下,其中libtest.so是linux下编译的C程序动态链接库文件,拷贝到dfs上:package co...原创 2016-07-27 11:43:03 · 1708 阅读 · 0 评论 -
hadoop 配置文件说明
hadoop 配置文件说明原创 2016-07-28 16:19:49 · 770 阅读 · 0 评论 -
在windows安装部署spark
1、下载地址:https://download.csdn.net/download/dopamy_busymonkey/109706602、解压后,配置环境变量:SPARK_HOME=在PATH中加入 ;%SPARK_HOME%\binl;%SPARK_HOME%\sbin;3、jdk环境变量脚本修改:如果使用的是非环境变量的jdk版本,这里添加脚本:set ...原创 2019-02-22 16:30:23 · 465 阅读 · 0 评论 -
eclipse Java Spark local模式
https://github.com/apache/spark/blob/master/examples/src/main/java/org/apache/spark/examples/JavaWordCount.java1、新建工程,引入一下spark2.4.0的lib依赖2、测试代码:import java.util.Arrays;import java.util.Lis...转载 2019-03-06 17:03:20 · 532 阅读 · 0 评论 -
Hadoop2.7.6在Windows7单机部署
https://blog.csdn.net/zhongjunlang/article/details/80812669 1、配置jdk1.8 不要安装在空格的目录中,你会发现hadoop和spark不支持有空格的目录配置(敲黑板!!)所以我自己新建了一个文件夹安装jdk,自行下载安装,配置略; 2、hadoop2.7.6下载并配置:下载地址:https://download.c...转载 2019-02-22 13:42:52 · 244 阅读 · 0 评论 -
HBase 常用Shell命令
http://www.cnblogs.com/nexiyi/p/hbase_shell.html 两个月前使用过hbase,现在最基本的命令都淡忘了,留一个备查~1、查看当前用户hbase(main)>whoami2、查看有哪些表hbase(main)> list3、创建表# 语法:create <table>, {NAME =>...转载 2017-04-17 15:41:59 · 600 阅读 · 0 评论 -
win7下eclipse插件连接linux下hdfs单机伪集群 hadoop 2.6
1、首先在linux上搭建好单击伪集群,这里是参考教程:点击打开链接2、下载好eclipse连接hdfs的插件,要统一版本,这里linux使用的是64位的centos 6.4,hadoop是2.6,所所以的插件是hadoop-eclipse-plugin-2.6.0.jar,下载地址:点击打开链接3、重启eclipse,会出现这个:4、hadoop在windows上也要...原创 2016-02-16 08:49:12 · 2543 阅读 · 2 评论 -
java连接solr时的异常
java连接solr时的异常原创 2016-04-25 14:48:25 · 3191 阅读 · 0 评论 -
java连接solr并建立索引
java连接solr并建立索引原创 2016-04-25 15:12:22 · 3894 阅读 · 1 评论 -
springmvc hadoop nginx ffmpeg 在线转码实现点播服务demo
springmvc hadoop nginx ffmpeg 在线转码实现点播服务demo原创 2016-04-07 15:19:40 · 7734 阅读 · 2 评论 -
springmvc框架下hdfs下载文件流直接发送httpresponse
springmvc框架下hdfs下载文件流直接发送httpresponse原创 2016-08-03 09:25:45 · 3176 阅读 · 0 评论 -
Hadoop入门进阶课程1--Hadoop1.X伪分布式安装
转载:http://www.cnblogs.com/shishanyuan/p/4629300.html本文版权归作者和博客园共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接,博主为石山园,博客地址为 http://www.cnblogs.com/shishanyuan 。该系列课程是应邀实验楼整理编写的,这里需要赞一下实验楼提供了学习的新方式,可以边看博转载 2015-08-31 17:07:40 · 1215 阅读 · 0 评论 -
Hadoop第12周练习—HBase安装部署
转载:http://www.cnblogs.com/shishanyuan/p/4227525.html1 运行环境说明1.1 硬软件环境1.2 机器网络环境2 书面作业1:安装HBASE2.1 书面作业1内容2.2 安装过程2.2.1 下载HBase安装包2.2.2 上传HBase2.2.3 解压并移动目录2.2.4 设置环境变量转载 2015-08-31 17:04:23 · 847 阅读 · 0 评论 -
Hadoop第8周练习—Pig部署及统计访问日志例子
转载:http://www.cnblogs.com/shishanyuan/p/4200338.html1 运行环境说明1.1 硬软件环境1.2 机器网络环境2 书面作业0:搭建PIG环境2.1 Pig介绍2.2 部署过程2.2.1 下载Pig2.2.2 上传Pig2.2.3 解压缩2.2.4转载 2015-08-31 16:58:33 · 1183 阅读 · 0 评论 -
Hadoop入门进阶课程13--Chukwa介绍与安装部署
转载:http://www.cnblogs.com/shishanyuan/p/4648294.html本文版权归作者和博客园共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接,博主为石山园,博客地址为 http://www.cnblogs.com/shishanyuan 。该系列课程是应邀实验楼整理编写的,这里需要赞一下实验楼提供了学习的新方式,可以边看博转载 2015-09-01 08:47:35 · 1274 阅读 · 0 评论 -
Hadoop入门进阶课程12--Flume介绍、安装与应用案例
转载:http://www.cnblogs.com/shishanyuan/p/4648284.html本文版权归作者和博客园共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接,博主为石山园,博客地址为 http://www.cnblogs.com/shishanyuan 。该系列课程是应邀实验楼整理编写的,这里需要赞一下实验楼提供了学习的新方式,可以边看博转载 2015-09-01 08:46:57 · 829 阅读 · 0 评论 -
Hadoop入门进阶课程11--Sqoop介绍、安装与操作
转载:http://www.cnblogs.com/shishanyuan/p/4648275.html本文版权归作者和博客园共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接,博主为石山园,博客地址为 http://www.cnblogs.com/shishanyuan 。该系列课程是应邀实验楼整理编写的,这里需要赞一下实验楼提供了学习的新方式,可以边看博转载 2015-09-01 08:46:02 · 923 阅读 · 0 评论 -
Hadoop入门进阶课程10--HBase介绍、安装与应用案例
转载:http://www.cnblogs.com/shishanyuan/p/4648263.html本文版权归作者和博客园共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接,博主为石山园,博客地址为 http://www.cnblogs.com/shishanyuan 。该系列课程是应邀实验楼整理编写的,这里需要赞一下实验楼提供了学习的新方式,可以边看博转载 2015-09-01 08:45:10 · 775 阅读 · 0 评论 -
Hadoop入门进阶课程9--Mahout介绍、安装与应用案例
转载:http://www.cnblogs.com/shishanyuan/p/4648258.html本文版权归作者和博客园共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接,博主为石山园,博客地址为 http://www.cnblogs.com/shishanyuan 。该系列课程是应邀实验楼整理编写的,这里需要赞一下实验楼提供了学习的新方式,可以边看博转载 2015-09-01 08:43:55 · 1055 阅读 · 0 评论 -
Hadoop入门进阶课程8--Hive介绍和安装部署
转载:http://www.cnblogs.com/shishanyuan/p/4648201.html本文版权归作者和博客园共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接,博主为石山园,博客地址为 http://www.cnblogs.com/shishanyuan 。该系列课程是应邀实验楼整理编写的,这里需要赞一下实验楼提供了学习的新方式,可以边看博转载 2015-08-31 17:19:04 · 1160 阅读 · 0 评论 -
Hadoop入门进阶课程7--Pig介绍、安装与应用案例
转载:http://www.cnblogs.com/shishanyuan/p/4648015.html本文版权归作者和博客园共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接,博主为石山园,博客地址为 http://www.cnblogs.com/shishanyuan 。该系列课程是应邀实验楼整理编写的,这里需要赞一下实验楼提供了学习的新方式,可以边看博转载 2015-08-31 17:16:55 · 1047 阅读 · 0 评论 -
Hadoop入门进阶课程2--Hadoop2.X 64位编译
转载:http://www.cnblogs.com/shishanyuan/p/4631421.html本文版权归作者和博客园共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接,博主为石山园,博客地址为 http://www.cnblogs.com/shishanyuan 。该系列课程是应邀实验楼整理编写的,这里需要赞一下实验楼提供了学习的新方式,可以边看博转载 2015-08-31 17:08:40 · 963 阅读 · 0 评论 -
Hadoop第13周练习—HBase作业
转载:http://www.cnblogs.com/shishanyuan/p/4227528.html1 书面作业1:举例子说明HBASE相对简单1.1 书面作业题目11.2 回答2 书面作业2:设计HBASE存储站内短信2.1 书面作业题目22.2 回答 1书面作业1:举例子说明HBase相对简单1.1 书面转载 2015-08-31 17:06:11 · 1253 阅读 · 1 评论 -
Hadoop入门进阶课程 目录
Hadoop入门进阶课程1--Hadoop1.X伪分布式安装Hadoop入门进阶课程2--Hadoop2.X 64位编译Hadoop入门进阶课程3--Hadoop2.X64位环境搭建Hadoop入门进阶课程4--HDFS原理及操作Hadoop入门进阶课程5--MapReduce原理及操作Hadoop入门进阶课程6--MapReduce应用案例Hado转载 2015-09-01 08:59:52 · 1188 阅读 · 0 评论 -
Hadoop第4周练习—HDFS读写文件操作
转载:http://www.cnblogs.com/shishanyuan/p/4172806.html1 运行环境说明1.1 硬软件环境1.2 机器网络环境2 书面作业1:编译并运行《权威指南》中的例3.22.1 书面作业1内容2.2 运行代码2.3 实现过程2.3.1 创建代码目录2.3.2 建转载 2015-08-31 16:50:45 · 1471 阅读 · 0 评论 -
Hadoop第9周练习—Hive部署测试(含MySql部署)
转载:http://www.cnblogs.com/shishanyuan/p/4205186.html1 运行环境说明1.1 硬软件环境1.2 机器网络环境2 书面作业1:搭建HIVE环境2.1 书面作业1内容2.2 搭建过程2.2.1 安装MySql数据库2.2.2 安装Hive2.2.3 验证部署3 问题解决3.1 设置mysql转载 2015-08-31 17:00:42 · 733 阅读 · 0 评论 -
Hadoop第6周练习—在Eclipse中安装Hadoop插件及测试(Linux操作系统)
转载:http://www.cnblogs.com/shishanyuan/p/4178732.html1 运行环境说明1.1 硬软件环境1.2 机器网络环境2 书面作业1:安装ECLIPSE并测试2.1 书面作业1内容2.2 实现过程2.2.1 下载Eclipse2.2.2 解压elipse2.2.3转载 2015-08-31 16:55:55 · 1352 阅读 · 0 评论 -
Hadoop第1~2周练习—Hadoop1.X和2.X安装
转载:http://www.cnblogs.com/shishanyuan/p/4147580.html1 练习题目2 HADOOP1.X安装2.1 准备工作2.1.1 硬软件环境2.1.2 集群网络环境2.1.3 安装使用工具2.2 环境搭建2.2.1 安装操作系统2.2.2 配置本地环境2.2.3 设置操作转载 2015-08-31 16:47:17 · 1001 阅读 · 0 评论 -
Hadoop入门进阶课程6--MapReduce应用案例
转载:http://www.cnblogs.com/shishanyuan/p/4646654.html本文版权归作者和博客园共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接,博主为石山园,博客地址为 http://www.cnblogs.com/shishanyuan 。该系列课程是应邀实验楼整理编写的,这里需要赞一下实验楼提供了学习的新方式,可以边看博转载 2015-08-31 17:15:11 · 919 阅读 · 0 评论