Hadoop学习笔记之avro文件格式

一、什么是avro

英文简介 https://en.wikipedia.org/wiki/Apache_Avro
官网简介 http://avro.apache.org/docs/current/
avro是一个数据序列化系统,它提供

  1. 丰富的数据结构
  2. 快速可压缩的二进制数据形式
  3. 存储持久数据的文件容器
  4. 远程过程调用RPC
  5. 简单的动态语言结合功能

以上来源于avro百度百科,也是翻译于官网简介,至于为什么以avro命名,找了很久确实没找到

二、实际实践

(一)需求分析

有很多avro千万级大文件需要分析

(二)解决方案

在hadoop的环境基础上,配置avro的开发环境
1、首先pom.xml里增加avro依赖

         <dependency>
            <groupId>org.apache.avro</groupId>
            <artifactId>avro-mapred</artifactId>
            <version>1.7.7</version>
 <!-- 下面这个不加的话,最后就无法把avro包打进最后的jar包里 -->
            <classifier>hadoop2</classifier> 
        </dependency>

添加avro插件

 <plugin>
                <groupId>org.apache.avro</groupId>
                <artifactId>avro-maven-plugin</artifactId>
                <version>1.7.7</version>
                <executions>
                <execution>
                    <phase>generate-sources</phase>
                    <goals>
                        <goal>schema</goal>
                    </goals>
                    <configuration>
                        <sourceDirectory>${project.basedir}/../</sourceDirectory>
                        <outputDirectory>${project.build.directory}/generated-sources/java</outputDirectory>
                    </configuration>
                </execution>
                </executions>
            </plugin>

2、在src目录下,也就是和main同级目录,建立schemas目录,在这里建立一个avro依赖的模式文件

{"namespace": "com.xmliu.hadoop.avsc",
 "type": "record",
 "name": "User",
 "fields": [
     {"name": "name", "type": "string"},
     {"name": "favorite_number",  "type": ["int", "null"]},
     {"name": "favorite_color", "type": ["string", "null"]}
 ]
}

3、配置了assembly.xml后,就可以编译项目生成对应java文件,按照上面的配置,生成的java文件应该在这里

./target/generated-sources/java/com.xmliu.hadoop.avsc/User.java

4、为了测试方便,在本地生成avro文件,在main方法中执行以下代码,会在项目根目录下生成users.avro文件

  try {
            DatumWriter<User> writer = new SpecificDatumWriter<User>(User.class);
            DataFileWriter<User> dataFileWriter = new DataFileWriter<User>(writer);
            dataFileWriter.create(User.getClassSchema(), new File("users.avro"));

            User user1 = new User();
            user1.setFavoriteColor("red");
            user1.setFavoriteNumber(23);
            user1.setName("Lendy");
            dataFileWriter.append(user1);
            // 可生成多个user
            dataFileWriter.flush();
            dataFileWriter.close();
        } catch (IOException e) {
            e.printStackTrace();
        }

5、mapreduce读取分析,这里有mapper和reducer,来源于官方文档,具体网页代码见这里,详细的官方源码可在这里下载

 try {
            Job job = Job.getInstance(getConf(), "avro");
            job.setJarByClass(AvroMain.class);
            FileInputFormat.setInputPaths(job, new Path(avroPath));
            FileOutputFormat.setOutputPath(job, new Path(outputPath));

            job.setInputFormatClass(AvroKeyInputFormat.class);
            job.setMapperClass(MyAvroJob.ColorCountMapper.class);
            AvroJob.setInputKeySchema(job, User.getClassSchema());
            job.setMapOutputKeyClass(Text.class);
            job.setMapOutputValueClass(IntWritable.class);

          job.setReducerClass(MyAvroJob.ColorCountReducer.class);
            AvroJob.setOutputKeySchema(job, Schema.create(Schema.Type.STRING));
            AvroJob.setOutputValueSchema(job, Schema.create(Schema.Type.INT));

            if (job.waitForCompletion(true)) {
                return 0;
            }

        } catch (Exception e) {
            e.printStackTrace();
        }

三、遇到的问题

1、

Error:java: Compilation failed: internal java compiler error

解决方法就是调整java编译器版本,参见Error:java: Compilation failed: internal java compiler error
2、

Error: org.apache.avro.generic.GenericData.createDatumWriter(Lorg/apache/avro/Schema;)Lorg/apache/avro/io/DatumWriter;

出现这个问题的解决方法就是去掉下面这行代码

job.setOutputFormatClass(AvroKeyValueOutputFormat.class);

本人理解的意为设置输出格式为avro,这里不需要这个设置

3、

找不到org.codehaus.jackson.JsonParser的类文件

解决方法其实很奇妙,就是重新建module,一步步来,跟手机出问题后重启一样的道理,相当于用了排除法

阅读更多
版权声明:本文为博主原创文章,转载请注明出处。 https://blog.csdn.net/diyangxia/article/details/79717683
个人分类: 大数据
上一篇GPG对文件加解密的简单实现
下一篇Gps带你跑出你想要的图案
想对作者说点什么? 我来说一句

没有更多推荐了,返回首页

关闭
关闭
关闭