自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(6)
  • 资源 (13)
  • 收藏
  • 关注

转载 mapreduce编程(二)- 大象书中求每一年的最高温度

书上的例子是为了取出一年当中气温最高的值,那么将年份和气温做了一个复合的key. 1 通过设置了partitioner来进行分区。因为分区是按照年份来进行,所以同年的数据就可以分区到一个reducer中。2 自定义key比较器,按照年份升序,温度值降序。这样map输出的所有kv对就是按照年份升序,温度值降序排列的。3 自定义分组比较器,所有同一年的数据属于同一个组,那么在r

2015-01-15 16:13:15 722

转载 mapreduce编程(一)-二次排序

mr自带的例子中的源码SecondarySort,我重新写了一下,基本没变。这个例子中定义的map和reduce如下,关键是它对输入输出类型的定义:(java泛型编程) public static class Map extends Mapper public static class Reduce extends Reducer1 首先说一下工作原理:在m

2015-01-15 16:07:51 540

原创 先安装Ubuntu,后安装win8,双系统启动菜单的问题

正常情况下,我们是都是先安装 windows,然后再安装 Ubuntu,这样有一个grub的启动菜单,包括windows和Ubuntu.但是如果重装了windows之后,启动的时候,就没有启动菜单了。这时只能进Windows,进不了Ubuntu。如何解决?解决方法如下:(1)在Win8上安装EasyBCD,添加一个启动项,选择【linux/bsd】,下面的类型选择【grub2】它会自动

2015-01-09 16:39:25 721

原创 ubuntu出现grub rescue解决办法

开机后,显示:GRUB loadingerror: unknow filesystemgrub rescue>解决方法如下:(1)gurb rescue> ls //查找grub的配置文件,因为分区表被破坏了,用ls命令列出分区。ls 后会出 (hd0) (hd0,msdos8) (hd0,msdos7) (hd0,msdos6) (hd0,msdos5) (hd0,m

2015-01-09 16:38:47 1337 1

原创 修改 Ubuntu 和 WIN7 双系统的默认启动系统

在win7的基础上,安装了ubuntu 14.04 LTS 形成双系统,每次开机,电脑默认选择的是ubuntu。由于平时用win7的次数比ubuntu多,所以想把win7设为默认的选择。其实修改的方法很简单,进入ubuntu后,修改 /boot/grub/grub.cfg 即可。 1. 使用vim打开 sudo vim /boot/grub/grub.cfg2. 找到 set defa

2015-01-06 14:55:23 647

原创 Ubuntu下为Firefox安装Adobe Flash Player

使用环境:OS:Ubuntu 12.04 LTSBrowser: Firefox 12.0Adobe Flash Player: install_flash_player_11_linux.x86_64.tar.gz安装方法:1. 下载Adobe Flash Player:请从Adobe官方下载,也可以从这个URL下载,这个URL也是官方的链接:get.adobe.co

2015-01-06 09:51:35 656

xfire-all-1.2.6 xfire所需的全部包

xfire-all-1.2.6 xfire所需的全部包

2017-03-22

jdk6-64位版本

jdk1.6 64位版本jdk 64bit 亲测可用!

2017-01-10

extjs4.0 sdk.jsb3 修改后的文件

extjs4.0 sdk.jsb3 修改后的文件

2015-05-20

破解spket 1.6.23

破解 spket 1.6.23亲测可用~

2015-05-20

Hadoop-core-1.0.4

hadoop-core-1.0.4.jar

2014-12-18

网络爬虫程序spider

网络爬虫,爬取指定的url,以及设定爬取深度。爬取的结果是网页的源码文件和图片。

2014-12-17

Java实现给定日期计算星期几

Java实现给定日期计算星期几。通过给定****-**-**的格式来计算星期几。

2013-12-07

PQmagic PQ魔术师

PQmagic PQ分区魔术师 windows下最好用的硬盘工具。 需要分割硬盘空间大小,或者合并空间的可以下载使用。

2013-12-07

hbase-0.94.13

hbase-0.94.13,适合hadoop1.2.1版本。

2013-11-29

hadoop-eclipse-plugin-1.2.1

hadoop在eclipse下的插件,下载此插件后放在eclipse/dropins下,重启eclipse,进入配置界面。此插件在hadoop-1.2.1和eclipse3.7.2上测试成功。ubuntu12.04下的最佳搭档。

2013-10-24

hadoop 权威指南(第三版)英文版

hadoop权威指南第三版(英文版)。 Foreword . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . xiii Preface . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . xv 1. Meet Hadoop . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 Data! Data Storage and Analysis Comparison with Other Systems RDBMS Grid Computing Volunteer Computing A Brief History of Hadoop Apache Hadoop and the Hadoop Ecosystem Hadoop Releases What’s Covered in this Book Compatibility 2. MapReduce . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17 A Weather Dataset Data Format Analyzing the Data with Unix Tools Analyzing the Data with Hadoop Map and Reduce Java MapReduce Scaling Out Data Flow Combiner Functions Running a Distributed MapReduce Job Hadoop Streaming Ruby Python iii Hadoop Pipes Compiling and Running 3. The Hadoop Distributed Filesystem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45 The Design of HDFS HDFS Concepts Blocks Namenodes and Datanodes HDFS Federation HDFS High-Availability The Command-Line Interface Basic Filesystem Operations Hadoop Filesystems Interfaces The Java Interface Reading Data from a Hadoop URL Reading Data Using the FileSystem API Writing Data Directories Querying the Filesystem Deleting Data Data Flow Anatomy of a File Read Anatomy of a File Write Coherency Model Parallel Copying with distcp Keeping an HDFS Cluster Balanced Hadoop Archives Using Hadoop Archives Limitations 4. Hadoop I/O . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 83 Data Integrity Data Integrity in HDFS LocalFileSystem ChecksumFileSystem Compression Codecs Compression and Input Splits Using Compression in MapReduce Serialization The Writable Interface Writable Classes iv | Table of Contents Implementing a Custom Writable Serialization Frameworks Avro File-Based Data Structures SequenceFile MapFile 5. Developing a MapReduce Application . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 145 The Configuration API Combining Resources Variable Expansion Configuring the Development Environment Managing Configuration GenericOptionsParser, Tool, and ToolRunner Writing a Unit Test Mapper Reducer Running Locally on Test Data Running a Job in a Local Job Runner Testing the Driver Running on a Cluster Packaging Launching a Job The MapReduce Web UI Retrieving the Results Debugging a Job Hadoop Logs Remote Debugging Tuning a Job Profiling Tasks MapReduce Workflows Decomposing a Problem into MapReduce Jobs JobControl Apache Oozie 6. How MapReduce Works . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 187 Anatomy of a MapReduce Job Run Classic MapReduce (MapReduce 1) YARN (MapReduce 2) Failures Failures in Classic MapReduce Failures in YARN Job Scheduling Table of Contents | v The Fair Scheduler The Capacity Scheduler Shuffle and Sort The Map Side The Reduce Side Configuration Tuning Task Execution The Task Execution Environment Speculative Execution Output Committers Task JVM Reuse Skipping Bad Records 7. MapReduce Types and Formats . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 221 MapReduce Types The Default MapReduce Job Input Formats Input Splits and Records Text Input Binary Input Multiple Inputs Database Input (and Output) Output Formats Text Output Binary Output Multiple Outputs Lazy Output Database Output

2013-10-24

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除