- 博客(10)
- 资源 (4)
- 收藏
- 关注
原创 mysql快速入门
一、下载并解压$ wget http://cdn.mysql.com/Downloads/MySQL-5.5/MySQL-5.5.42-1.el6.x86_64.rpm-bundle.tar解压后得到以下几个文件:$ tar -xvf MySQL-5.5.42-1.el6.x86_64.rpm-bundle.tar MySQL-shared-5.5.42-1.el6.x86_64
2015-04-28 14:31:21 1120
原创 spark原理介绍
1、spark是一个基于内存计算的开源的集群计算系统,目的是让数据分析更加快速。因此运行spark的机器应该尽量的大内存,如96G以上。2、spark所有操作均基于RDD,操作主要分成2大类:transformation与action。3、spark提供了交互处理接口,类似于shell的使用。4、spark可以优化迭代工作负载,因为中间数据均保存于内存中。5、spark 是在 Sc
2015-04-28 12:33:54 16840
原创 spark1.3.1使用基础教程
spark可以通过交互式命令行及编程两种方式来进行调用:前者支持scala与python后者支持scala、python与java本文参考https://spark.apache.org/docs/latest/quick-start.html,可作快速入门再详细资料及用法请见https://spark.apache.org/docs/latest/programming-gu
2015-04-28 11:10:41 13525 1
原创 安装hadoop2.6.0伪分布式环境
集群环境搭建请见:http://blog.csdn.net/jediael_lu/article/details/45145767一、环境准备1、安装linux、jdk2、下载hadoop2.6.0,并解压3、配置免密码ssh(1)检查是否可以免密码: $ ssh localhost(2)若否:$ ssh-keygen -t dsa -P '' -f ~/
2015-04-27 18:59:23 3570
原创 安装spark1.3.1单机环境
本文介绍安装spark单机环境的方法,可用于测试及开发。主要分成以下4部分:(1)环境准备(2)安装scala(3)安装spark(4)验证安装情况1、环境准备(1)配套软件版本要求:Spark runs on Java 6+ and Python 2.6+. For the Scala API, Spark 1.3.1 uses Scala 2.10. You wil
2015-04-27 14:52:59 29606 3
原创 在sublime text 3中安装中文支持
1、安装package control使用control+~打开终端,然后输入以下内容并确定:import urllib.request,os;pf='Package Control.sublime-package';ipp=sublime.installed_packages_path();urllib.request.install_opener(urllib.request.b
2015-04-24 22:04:33 7213
原创 搭建hadoop2.6.0集群环境
一、规划 (一)硬件资源 10.171.29.191 master10.171.94.155 slave110.251.0.197 slave3(二)基本资料 用户: jediael 目录:/mnt/jediael/ 二、环境配置 (一)统一用户名密码,并为jediael赋予执行所有命令的权限 #passwd # useradd jedia
2015-04-20 07:21:05 9051
原创 在mac中导入hadoop2.6.0源代码至eclipse
一、环境准备1、安装jdk、maven等2、下载hadoop源代码,并解压3、将tools.jar复制到Classes中,具体原因见http://wiki.apache.org/hadoop/HowToSetupYourDevelopmentEnvironmentcd $JAVA_HOME mkdir Classes cp lib/tools.jar Classe
2015-04-12 09:27:03 2589
原创 Maven基础教程
更多内容请参考官方文档:http://maven.apache.org/guides/index.html官方文档很详细,基本上可以查找到一切相关的内容。(一)搭建环境1、下载maven,并将之解压或者直接使用yum 来安装2、配置环境变量export PATH=/home/jediael/setupfile/apache-maven-3.1.1/bin:$
2015-04-10 22:53:19 1203
转载 centos中的配置文件
/etc/profile:此文件为系统的每个用户设置环境信息,当用户第一次登录时,该文件被执行.并从/etc/profile.d目录的配置文件中搜集shell的设置./etc/bashrc:为每一个运行bash shell的用户执行此文件.当bash shell被打开时,该文件被读取.~/.bash_profile:每个用户都可使用该文件输入专用于自己使用的shell信息,当用户登录时
2015-04-03 22:21:58 6162
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人