自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(15)
  • 资源 (11)
  • 收藏
  • 关注

原创 大数据学习系列11-Centos6.7下kafka_2.11-0.8.2.2集群安装部署

集群规划主机 IP 安装的软件 运行的进程mini2 192.168.33.62 jdk、kafka、zookeeper Kafka、QuorumPeerMainmini3 192.168.33.63 jdk...

2019-10-07 16:50:28 183

原创 大数据学习系列10-Centos6.7下storm-0.9.5集群安装部署

集群规划主机 IP 安装的软件 运行的进程mini1 192.168.33.61 jdk、storm nimbus、coremini2 192.168.33.62 j...

2019-10-06 17:08:47 153

原创 大数据分析以及机器学习的一些书籍

大数据相关的一些书籍https://download.csdn.net/download/wademylove/10801230 Hadoop技术内幕_深入解析HADOOP_COMMON和HDFS架构设计与实现原理https://download.csdn.net/download/wademylove/10801265 Hadoop技术内幕_深入解析MapReduce架构设计与实现原理...

2018-11-22 17:09:35 409

原创 大数据学习系列9-Centos6.7 hadoop-2.6.5下hbase-0.99.2集群的安装部署

集群规划 主机          IP                            安装的软件                                 运行的进程mini1     192.168.33.61    jdk、hadoop、hbase                 NameNode、ResourceManager、SecondaryNameNode、HMa...

2018-11-11 22:01:38 202

原创 大数据学习系列8-Centos6.7 hadoop-2.6.5下sqoop-1.4.6的安装部署

安装sqoop的前提是已经具备java和hadoop的环境1、下载并解压下载地址http://archive.apache.org/dist/sqoop/1.4.6/ 2、修改配置文件$ cd $SQOOP_HOME/conf$ mv sqoop-env-template.sh sqoop-env.sh打开sqoop-env.sh并编辑下面几行:export HAD...

2018-11-03 09:15:51 160

原创 大数据学习系列7-Centos6.7 hadoop-2.6.5下工作流调度azkaban-2.5.0的安装部署

安装azkaban安装到mini1主机,mysql已安装在mini4主机。将安装文件上传到集群,最好上传到安装 hive、sqoop的机器上,方便命令的执行在当前用户目录下新建 azkabantools目录,用于存放源安装文件.新建azkaban目录,用于存放azkaban运行程序azkaban web服务器安装解压azkaban-web-server-2.5.0.tar.gz...

2018-10-08 08:37:50 205

原创 大数据学习系列6-Centos6.7 hadoop-2.6.5下flume-1.6.0的使用

1、flume的安装非常简单,只需要解压即可,当然,前提是已有hadoop环境上传安装包到数据源所在节点mini1上然后解压  tar -zxvf apache-flume-1.6.0-bin.tar.gz -C /home/hadoop/apps/然后进入flume的目录,修改conf下的flume-env.sh,在里面配置JAVA_HOME2、根据数据采集的需求配置采集方案,描...

2018-09-18 19:50:58 201

原创 大数据学习系列5-Centos6.7 hadoop-2.6.5下hive-1.2.1的安装部署

Hive只需在集群的任一个节点上安装即可,本文放在集群的mini1中1.上传tar包2.解压tar -zxvf hive-1.2.1.tar.gz -C /home/hadoop/apps/3.配置hive,默认是内置的derby,本文选择mysql作为数据源的数据库,数据库安装在mini4主机中(a)配置HIVE_HOME环境变量 vi conf/hive-env.sh 配置...

2018-09-13 20:39:40 362

原创 大数据学习系列4-Centos6.7下hadoop-2.6.5 ha集群namenode水平扩展federation机制的部署

前期准备,可以参考上一篇大数据学习系列3-Centos6.7下搭建hadoop-2.6.5 ha集群https://blog.csdn.net/wademylove/article/details/81905276 集群规划:主机名          IP                     安装的软件                            运行的进程m...

2018-09-09 22:32:08 336

原创 大数据学习系列3-Centos6.7下搭建hadoop-2.6.5 ha集群

前期准备,可以参考上一篇大数据学习系列2-Centos6.7下搭建hadoop-2.6.5集群https://blog.csdn.net/wademylove/article/details/819439461.修改Linux主机名2.修改IP3.修改主机名和IP的映射关系 /etc/hosts######注意######如果你们公司是租用的服务器或是使用的云主机(如华为用...

2018-09-04 21:22:17 242

原创 大数据学习系列2-Centos6.7下搭建hadoop-2.6.5集群

集群规划主机          IP                            安装的软件                   运行的进程mini1        192.168.33.61         jdk、hadoop                 NameNode、ResourceManager、SecondaryNameNodemini2        19...

2018-08-28 21:50:26 564

原创 MacOS IntelliJ IDEA导出Java 可执行Jar包

1打开File -> Project Structure,如图2.找到Artifacts,点击+,选择JAR,本例选中的是From modules with dependencies,如图3.设置模块Module以及主类Main CLass4.最后点击Build中的Build Artifacts...5.编译完成到相应目录即可找到jar包...

2018-08-05 22:11:03 1147

原创 大数据学习系列1-Centos6.7下zookeeper-3.4.12集群安装部署

服务器集群规划主机IP:192.168.33.61 192.168.33.62 192.168.33.63对应主机名:mini1 mini2 mini3先安装192.168.33.61主机上传安装文件zookeeper-3.4.12.tar.gz建立文件夹,放在apps/目录下解压: tar -zxvf zookeeper-3.4.12.tar.gz -C apps/重命名或者拷贝conf/目录下...

2018-07-11 11:32:26 168

原创 Mac OS VMware Fusion Centos6.7虚拟机 克隆以及网卡问题处理

vmware选择已经安装成功的虚拟机,创建完整克隆克隆完成克隆后地址冲突导致克隆后的虚拟机eth0网卡失效,虚拟机会自动生成一个eth1的网卡,需要修改才能正常上网首先查看当前网卡直接修改,/etc/sysconfig/network-script/ifcfg-eth0,删掉UUID、HWADDR,配置静态地址然后删除,/etc/udev/rules.d/70-persistent-net.rul...

2018-07-05 10:21:58 1177

原创 Mac OS VMware Fusion Centos6.7虚拟机 NAT网络设置

安装Centos6.7虚拟机后,虚拟机要访问外网,设置NAT网络。安装VMWare Fusion成功后,Mac OS会新增两张网卡vmnet1以及vmnet8,其中vmnet1是Host-only模式,vmnet8是NAT模式,这里选择vmnet8使用NAT进行网络设置。修改VMWare的vmnet8配置文件/Library/Preferences/VMware\ Fusion/networkin...

2018-05-15 11:22:52 6101 2

快学Scala中文版

cala是一门以Java虚拟机(JVM)为目标运行环境并将面向对象和函数式编程语言的最佳特性结合在一起的编程语言。你可以使用Scala编写出更加精简的程序,同时充分利用并发的威力。由于Scala运行于JVM之上,因此它可以访问任何Java类库并且与Java框架进行互操作。本书从实用角度出发,给出了一份快速的、基于代码的入门指南。Horstmann以“博客文章大小”的篇幅介绍了Scala的概念,让你可以快速地掌握和应用。实际上手的操作,清晰定义的能力层次,从初级到专家级,全程指导。 《快学Scala》适合有一定的Java编程经验、对Scala感兴趣,并希望尽快掌握Scala核心概念和用法的开发者阅读。

2018-11-26

Hadoop技术内幕_深入解析YARN架构设计与实现原理

本书从应用角度系统讲解了YARN的基本库和组件用法、应用程序设计方法、YARN上流行的各种计算框架(MapReduce、Tez、Storm、Spark),以及多个类YARN的开源资源管理系统(Corona和Mesos);从源代码角度深入分析YARN的设计理念与基本架构、各个组件的实现原理,以及各种计算框架的实现细节。 全书共四部分13章:第一部分(第1~2章)主要介绍了如何获取、阅读和调试Hadoop的源代码,以及YARN的设计思想、基本架构和工作流程;第二部分(第3~7章)结合源代码详细剖析和讲解了YARN的第三方开源库、底层通信库、服务库、事件库的基本使用和实现细节,详细讲解了YARN的应用程序设计方法,深入讲解和分析了ResourceManager、资源调度器、NodeManager等组件的实现细节;第三篇(第8~10章)则对离线计算框架MapReduce、DAG计算框架Tez、实时计算框架Storm和内存计算框架Spark进行了详细的讲解;第四部分(第11~13章)首先对Facebook Corona和Apache Mesos进行了深入讲解,然后对YARN的发展趋势进行了展望。附录部分收录了YARN安装指南、YARN配置参数以及Hadoop Shell命令等非常有用的资料。

2018-11-22

Hadoop技术内幕_深入解析MapReduce架构设计与实现原理

本书由Hadoop领域资深的实践者亲自执笔,首先介绍了MapReduce的设计理念和编程模型,然后从源代码的角度深入分析了RPC框架、客户端、JobTracker、TaskTracker和Task等MapReduce运行时环境的架构设计与实现原理,最后从实际应用的角度深入讲解了Hadoop的性能优化、安全机制、多用户作业调度器和下一代MapReduce框架等高级主题和内容。《Hadoop技术内幕(深入解析MapReduce架构设计与实现原理)》适合Hadoop的二次开发人员、应用开发工程师、运维工程师阅读。

2018-11-22

Spark机器学习

本书每章都设计了案例研究,以机器学习算法为主线,结合实例探讨了Spark 的实际应用。书中没有让人抓狂的数据公式,而是从准备和正确认识数据开始讲起,全面涵盖了推荐系统、回归、聚类、降维等经典的机器学习算法及其实际应用。

2018-11-22

Mahout实战中文版完整版

Mahout实战 通过收集数据来学习和演进的计算机系统威力无穷。Mahout作为Apache的开源机器学习项目,把推荐系统、分类和聚类等领域的核心算法浓缩到了可扩展的现成的库中。使用Mahout,你可以立即在自己的项目中应用亚马逊、Netflix及其他互联网公司所采用的机器学习技术。, 本书出自Mahout核心成员之手,得到Apache官方推荐,权威性毋庸置疑。作者凭借多年实战经验,为读者展现了丰富的应用案例,并细致地介绍了Mahout的解决之道。本书还重点讨论了可扩展性问题,介绍了如何利用Apache Hadoop框架应对大数据的挑战。

2018-11-22

iReport制作报表可能会用到的包

iReport制作报表需要的包支持,有中文的显示支持

2013-03-28

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除