美文网首页
14)Hadoop序列化

14)Hadoop序列化

作者: bullion | 来源:发表于2018-11-23 16:44 被阅读0次

什么是序列化

    序列化就是把内存中的对象,转换成字节序列(或其他数据传输协议)以便于存储到磁盘(持久化)和网络传输

    反序列化就是将收到的字节序列(或其他数据传输协议)或者是磁盘的持久化数据,转换成内存中的对象


为什么不用Java序列化

    Java的序列化是一个重量级序列化框架(Serializable),一个对象被序列化后,会附带很多额外的信息(各种校验信息,Header,继承体系等),不便于在网络中高效传输。所以,Hadoop自己开发了一套序列化机制(Writable)。

    

Hadoop序列化特点

1)紧凑:高效使用存储空间

2)快速:读写数据的额外开销小

3)可扩展:随着通信协议的可升级而升级

4)互操作:支持多语言的交互

常用的序列化类型

自定义bean对象实现序列化接口 

    在企业开发中往往常用的基本序列化类型不能满足所有需求,比如在Hadoop框架内部传递一个bean对象,那么该对象就需要实现序列化接口。

具体实现bean对象序列化步骤如下7步:

1)必须实现Writable接口

2)反序列时,需要反射调用空参构造函数,所以必须有空参构造

public FlowBean(){

    super();

}

3)重写序列化方法

public void write(DataOutput out) throws IOException {

        out.writeLong(upFlow);

        out.writeLong(downFlow);

        out.writeLong(sumFlow);

    }

4)重写反序列化方法

public void readFields(DataInput in) throws IOException {

        upFlow = in.readLong();

        downFlow = in.readLong();

        sumFlow = in.readLong();

    }

5)注意反序列化的顺序和序列化的顺序完全一致

6)要想把结果显示在文件中,需要重写toString(),可用“\t”分开,方便后续用。

7)如果需要将自定义的bean放在key中传输,则还需要实现Comparable接口,因为MapReduce框中的Shuffle过程要求对key必须能排序

public int compareTo(FlowBean o){

        //倒序排序 从大到小

        return this.sumFlow > o.getSumFlow() ? -1 : 1;

    }

序列化案例实操

相关文章

  • 14)Hadoop序列化

    什么是序列化 序列化就是把内存中的对象,转换成字节序列(或其他数据传输协议)以便于存储到磁盘(持久化)和网络传...

  • hadoop(6)序列化

    1 hadoop自己的序列化 因为java中的序列化有太多的冗余信息,所以hadoop采用了自己的序列化机制。 2...

  • MapReduce(二):MapReduce序列化

    序列化概述 什么是序列化 为什么要序列化 为什么不用Java序列化 hadoop序列化优势 结构紧凑,存储空间少 ...

  • 大数据技术之MapReduce(二)

    Hadoop 序列化 2.1 序列化概述 1) 什么是序列化 序列化就是把内存中的对象,转换成字节序列(或其他数据...

  • hadoop序列化和反序列化

    hadoop序列化和反序列化 1 什么是序列化和反序列化 序列化就是将内存中的对象或数据,转换成字节数组,以便于存...

  • hive

    1.下载序列化包 2.添加json序列化包 add jar /Users/zhanxf/hadoop/hive/l...

  • 2020-12-14

    1。mapper阶段的输入和输出都是kv对2。mapreduce的序列化采用的是hadoop自己的序列化机制:特点...

  • kafka avro序列化读写消息

    kafka avro序列化读写消息 avro是Hadoop的一个子项目,由Hadoop的创始人Doug Cutti...

  • Hadoop序列化

    序列化 把内存中对象转换成字节序列(或其他数据传输协议)以便于存储到磁盘(持久化)和网络传输 反序列化 接收到的字...

  • Hadoop序列化

    1.为什么要序列化? 一般来说,“活的”对象只生存在内存里,关机断电就没有了。而且“活的”对象只能由本地的进程使用...

网友评论

      本文标题:14)Hadoop序列化

      本文链接:https://www.haomeiwen.com/subject/dyojqqtx.html