AVRO : 常用知识总结

原创 2017年01月03日 16:11:56

AVRO介绍说明

它可以提供:
1 丰富的数据结构类型
2 快速可压缩的二进制数据形式
3 存储持久数据的文件容器
4 远程过程调用RPC
5 简单的动态语言结合功能,Avro和动态语言结合后,读写数据文件和使用RPC协议都不需要生成代码,而代码生成作为一种可选的优化只值得在静态类型语言中实现。

  1. Avro依赖于模式(Schema)。Avro数据的读写操作是很频繁的,而这些操作都需要使用模式,这样就减少写入每个数据资料的开销,使得序列化快速而又轻巧。这种数据及其模式的自我描述方便于动态脚本语言的使用。
    当Avro数据存储到文件中时,它的模式也随之存储,这样任何程序都可以对文件进行处理。如果需要以不同的模式读取数据,这也很容易解决,因为两个模式都是已知的。

  2. 当在RPC中使用Avro时,服务器和客户端可以在握手连接时交换模式。服务器和客户端有着彼此全部的模式,因此相同命名字段、缺失字段和多余字段等信息之间通信中需要解决的一致性问题就可以容易解决
    还有,Avro模式是用JSON(一种轻量级的数据交换模式)定义的,这样对于已经拥有JSON库的语言可以容易实现。

  3. Avro提供着与诸如Thrift和Protocol Buffers等系统相似的功能,但是在一些基础方面还是有区别的,主要是:
    1 动态类型:Avro并不需要生成代码,模式和数据存放在一起,而模式使得整个数据的处理过程并不生成代码、静态数据类型等等。这方便了数据处理系统和语言的构造。
    2 未标记的数据:由于读取数据的时候模式是已知的,那么需要和数据一起编码的类型信息就很少了,这样序列化的规模也就小了。
    3 不需要用户指定字段号:即使模式改变,处理数据时新旧模式都是已知的,所以通过使用字段名称可以解决差异问题。

Avro Data Types And Schemas


从mapred中创建一个简单的Avro输出文件

*.avsc AVRO模式文件(Schema File)

比如说创建一个user.avsc,放在资源文件目录下 src/main/avro
maven 设置 ,版本号是可变的

<plugin>
        <groupId>org.apache.avro</groupId>
        <artifactId>avro-maven-plugin</artifactId>
        <version>1.8.1</version>
        <executions>
          <execution>
            <phase>generate-sources</phase>
            <goals>
              <goal>schema</goal>
            </goals>
            <configuration>
              <sourceDirectory>${project.basedir}/src/main/resources/avro/</sourceDirectory>//avro模式文件
              <outputDirectory>${project.basedir}/src/main/java/</outputDirectory>//生成的java文件
            </configuration>
          </execution>
        </executions>
      </plugin>
{"namespace": "com.kbl.airline.avro",
  "type": "record",
  "name": "User",
  "fields": [
    {"name": "name", "type": "string"},
    {"name": "favorite_number",  "type": ["int", "null"]},
    {"name": "favorite_color", "type": ["string", "null"]}
  ]
}

这样在编译之后就会在com.kbl.airline.avro包下生成User类


在mapper端使用作为输出

//使mapper的输出设置为AVRO格式的
public static class AvroMapper extends Mapper<LongWritable,Text,AvroKey<NullWritable>,AvroValue<Users>> {
    Users.Builder fd = Users.newBuilder();
    ...
    ...//相关字段set方法赋值
    context.write(new AvroKey<NullWritable>(NullWritable.get()),new AvroValue<Users>(fd.build()));//写出

//job的设置
job.setOutputFormatClass(AvroKeyValueOutputFormat.class);

job.setOutputKeyClass(AvroKey.class);
job.setOutputValueClass(AvroValue.class);

job.setMapperClass(AvroMapper.class);
AvroJob.setOutputKeySchema(job, Schema.create(Schema.Type.NULL));
AvroJob.setOutputValueSchema(job,FlightDelays.SCHEMA$);

}

在mapper端使用作为输入

//mapper
public static class AvroMapper2 extends Mapper<AvroKey<NullWritable>,AvroValue<FlightDelays>,NullWritable,Text> {
    FlightDelays fd = value.datum();//转换为对象,可直接通过get方法获取属性
        context.write(NullWritable.get(),new Text(fd.getYear().toString()));
}

//job 的设置
job.setInputFormatClass(AvroKeyValueInputFormat.class);
job.setOutputFormatClass(TextOutputFormat.class);

job.setOutputKeyClass(NullWritable.class);
job.setOutputValueClass(Text.class);

job.setMapperClass(AvroMapper2.class);
AvroJob.setInputKeySchema(job, Schema.create(Schema.Type.NULL));
AvroJob.setInputValueSchema(job,FlightDelays.SCHEMA$);

参考文献:
1. 百度百科
2. avro 官网
3. 深入理解Hadoop第二版

版权声明:本文为博主原创文章,未经博主允许不得转载。 举报

相关文章推荐

Avro总结(RPC/序列化)

Avro(读音类似于[ævrə])是Hadoop的一个子项目,由Hadoop的创始人Doug Cutting(也是Lucene,Nutch等项目的创始人,膜拜)牵头开发,当前最新版本1.3.3。Avr...

机器学习面试常用算法知识点梳理总结

原文地址:http://www.cnblogs.com/tornadomeet/p/3395593.html     前言:   找工作时(IT行业),除了常见的软件开发以外,机器学习岗位也可以当作是...

我是如何成为一名python大咖的?

人生苦短,都说必须python,那么我分享下我是如何从小白成为Python资深开发者的吧。2014年我大学刚毕业..

python编程中常用的12种基础知识总结

Python编程中常用的12种基础知识总结:正则表达式替换,遍历目录方法,列表按列排序、去重,字典排序,字典、列表、字符串互转,时间对象操作,命令行参数解析(getopt),print 格式化输出,进...

android 自定义控件学习之三 控件布局常用知识总结

 1、View是什么 View是Android所有控件的基类,简单到TextView、Button,复杂到RelativeLayout,LinearLayout,其共同基类都是...
返回顶部
收藏助手
不良信息举报
您举报文章:深度学习:神经网络中的前向传播和反向传播算法推导
举报原因:
原因补充:

(最多只允许输入30个字)