Hadoop 2.0.0-cdh4.5.0安装 Hadoop2.0.0-cdh4.5.0部署文档1. 环境Hadoop 2.0.0-cdh4.5.0java version "1.7.0_45"Ubuntu 12.04.3 LTS (GNU/Linux3.8.0-29-generic x86_64) VMware虚拟机3台:192.168.0.8 master192
NN HA 对于 Client 透明的实验 之前转载过一篇【伊利丹】写的NN HA实验记录,该博客描述了主备NN透明切换的过程,也就是说,当主NN挂掉后,自动将备NN切换为主NN了,Hadoop集群正常运行。今天我继续做了一个实验,目的是实现NN的切换不会对Client端程序造成影响,即NN切换对Client透明。首先,很重要的一点:要保证core-site.xml中的
Hadoop2.4.1部署(完整版) 引言 转眼间,Hadoop的stable版本已经升级到2.4.1了,社区的力量真是强大!3.0啥时候release呢? 今天做了个调研,尝鲜了一下2.4.1版本的分布式部署,包括NN HA(目前已经部署好了2.2.0的NN HA,ZK和ZKFC用现成的),顺便也结合官方文档 http://hadoop.apache.org/docs/r2.4.1/hadoop-proj
Hadoop2.2.0 NN HA详细配置+Client透明性试验【完整版】 引言:前面转载过一篇团队兄弟【伊利丹】写的NN HA实验记录,我也基于他的环境实验了NN HA对于Client的透明性。本篇文章记录的是亲自配置NN HA的详细全过程,以及全面测试HA对客户端访问透明性的全过程,希望对大家有帮助。实验环境:Hadoop2.2.0的4节点集群,ZK节点3个(ZK节点数最好为奇数个),hosts文件和各节点角色分配如下:
Apache Hadoop 2.2.0 HDFS HA + YARN多机部署 部署逻辑架构:HDFS HA部署物理架构注意:JournalNode使用资源很少,即使在实际的生产环境中,也是把JournalNode和DataNode部署在同一台机器上;生产环境中,建议主备NameNode各单独一台机器。YARN部署架构:个人实
VMware虚拟机配置Ubuntu桥接方式(Bridged)使虚拟机和宿主机能互相ping通 1、设置Bridged上网方式Vmware菜单栏VM->settings->Network Adapter或者Ctrl+D2、查看Bridged状态Vmware菜单栏Edit->Virtual Network Editor要设置成以上bridged模式,先关闭虚拟机,不关闭设置会提示只有虚拟机在power off状态才能设置,选择VMnet0,点击左下角的Restore
ExtJs4 笔记 layout 布局 本篇讲解Ext另一个重要的概念:布局。一般的容器类控件都是通过配置项items添加子控件的,这些子控件相对于父控件怎么定位呢,这里就要用到布局。某些容器类控件,它本身默认就集成了一种布局方式,例如比较典型的是:Ext.container.Viewport 布局控件,它其实就是一个border布局的容器,还有Ext.form.Panel、Ext.tab.Panel等。本节我们系统的分析各种布局方式。
用Artifactory管理内部Maven仓库 1. 介绍 Maven是Java开发者中流行的构建工具,Maven的好处之一是可以帮助减少构建应用程序时所依赖的软件构件的副本,Maven建议的方法是将所有软件构件存储于一个叫做repository的远程仓库中。 Maven会从ibiblio.org中的公用仓库中同步构件,这个公用仓库下载缓慢、不稳定,并且不包含一些构件的最新版本,而且不能上传团队私有的构件。通过设置内
Spring3+Hibernate4+SpringMVC整合Ext:JSON数据格式传输 前言前两篇文章介绍了Spring3、Hibernate4、SpringMVC的整合以及Ext界面MVC的实现,这次介绍的内容是处理Ext的分页和前后台的数据传输。目前Ext大部分组件使用的都是JSON数据格式(如果有不知道JSON数据格式的同学可以去网上找点资料看下,在这里就不赘述了)。包括表格控件、树控件、报表控件以及表单空间等等,所以说对于整合Ext来说如何向前台空
Spring Security 3.x 完整入门教程 本Blog所有内容不得随意转载,版权属于作者所有。如需转载请与作者联系( fastzch@163.com QQ:9184314)。未经许可的转载,本人保留一切法律权益。Spring Security 3.x 出来一段时间了,跟Acegi是大不同了,与2.x的版本也有一些小小的区别,网上有一些文档,也有人翻译Spring Security 3.x的guide,但通过阅读guid
Maven笔记(四)– eclipse+tomcat构建web工程 RockCMS内容管理系统是一个web应用,因此我们要利用Maven构建一个web应用,开发环境为eclipse+tomcat。构建过程如下:1、工具准备eclipse:版本为eclipse 4.2(Juno Service),maven插件的安装与配置参见“m2eclipse安装与配置”tomcat:版本为apache-tomcat-6.0.37(即tomcat6
Eclipse+Maven创建webapp项目<二> 1、开启eclipse,右键new——》other,如下图找到maven project 2、选择maven project,显示创建maven项目的窗口,此次不勾选Create a simple project,直接next,如图所示: 3、在Filter中搜索webapp,选择如图所示,并next:4、输入maven项目的基本信息
Eclipse+Maven命令创建webapp项目<三> 1、使用maven命令:mvn archetype:create -DgroupId=xxxxx -DartifactId=web-sample -DarchetypeArtifactId=maven-archetype-webapp然后执行mvn eclipse:eclipse 使项目兼容Eclipse
Eclipse+Maven创建webapp项目<一> 1、开启eclipse,右键new——》other,如下图找到maven project2、选择maven project,显示创建maven项目的窗口,勾选如图所示,Create a simple project3、输入maven项目的基本信息,如下图所示:4、完成maven项目的创建,生成相应的maven项目结果,如下所示,此处有部分结构是项目不
eclipse 配置maven web项目 maven是个项目管理工具,集各种功能于一身,下面介绍maven web项目在eclipse种的配置,并于tomcat集成。配置成功后,可以跟一般的web项目一样调试。 一、准备条件1、安装下载jdk 这里以jdk1.6为例 2、安装eclipse 到eclipse官网下载 Eclipse IDE for Java EE De
Hadoop-2.2.0集群安装配置实践 Hadoop 2.x和1.x已经大不相同了,应该说对于存储计算都更加通用了。Hadoop 2.x实现了用来管理集群资源的YARN框架,可以面向任何需要使用基于HDFS存储来计算的需要,当然MapReduce现在已经作为外围的插件式的计算框架,你可以根据需要开发或者选择合适的计算框架。目前,貌似对MapReduce支持还是比较好的,毕竟MapReduce框架已经还算成熟。其他一些基于YARN框架的接
EXTJS GRID分页时序号自增的实现 ExtJs Grid分页时,默认情况下每页的序号都是从1起始的,这往往不符合我们的习惯。这里实现了序号的自动增加。先看效果图:实现步骤如下:1、定义全局变量。 var record_start = 0;2、Grid的columns部分的定义。 columns : [new Ext.grid.RowNumberer({ header : "序号",
hadoop MapReduce实例解析 1、MapReduce理论简介 1.1 MapReduce编程模型 MapReduce采用"分而治之"的思想,把对大规模数据集的操作,分发给一个主节点管理下的各个分节点共同完成,然后通过整合各个节点的中间结果,得到最终结果。简单地说,MapReduce就是"任务的分解与结果的汇总"。 在Hadoop中,用于执行MapReduce任务的机器角色有两个:一个是Job
Hadoop数据传输工具sqoop 概述sqoop是Apache顶级项目,主要用来在Hadoop和关系数据库中传递数据。通过sqoop,我们可以方便的将数据从关系数据库导入到HDFS,或者将数据从HDFS导出到关系数据库。sqoop架构:sqoop架构非常简单,其整合了Hive、Hbase和Oozie,通过map-reduce任务来传输数据,从而提供并发特性和容错。sqoop的进一步发展可以参考:A New Ge
hbase 与 hive 结合 前置条件hadoop hive hbase环境搭建完成。搭建版本hadoop-1.0.3hive-0.9.0hbase-0.94.2zookeeper-3.3.5步骤配置hive xml,配置hbase与hive结合包Xml代码 hive.aux.jars.path file:///usr/local/hive-0.9.0/lib/hive-hba