消息由键，值和头部组成。Kafka不识别消息中键和值，它按字节数组处理他们。但生产者和消费者关心如何读取这些数据。所以我们希望数据存储的方式是易读的，同时它还要尽可能地紧凑和快速编解码。例如，JSON是自解释的一个格式，但是它不紧凑而且解析速度慢。Avro是apache一个快速的序列化框架，它创建的消息相对紧凑。要读取Avro记录，你要有数据序列化的schema（Avro使用一个叫做schma的JSON文档描述数据结构）。
但是，基于C语言的avro API在安装时必须有jansson、snappy等一系列依赖库，且基于cmake的安装方式也不太友好，因此需要进行说明如下。
一、编译snappy
1、下载snappy
$ wget https://github.com/google/snappy/releases/download/1.1.3/snappy-1.1.3.tar.gz
2、解压
$ tar -xf snappy-1.1.3.tar.gz
3、生成编译环境（系统中需要安装autoconf、libtool）
$ cd snappy-1.1.3
$ autoreconf --force --install
此处如果不加参数，则在执行下一步 make 时会报错：
/bin/sh ./libtool --tag=CXX --mode=compile g++ -DHAVE_CONFIG_H -I. -g -O2 -MT snappy.lo -MD -MP -MF .deps/snappy.Tpo -c -o snappy.lo snappy.cc
libtool: Version mismatch error. This is libtool 2.4.2 Debian-2.4.2-1.7ubuntu1, but the
libtool: definition of this LT_INIT comes from libtool 2.2.6b.
libtool: You should recreate aclocal.m4 with macros from libtool 2.4.2 Debian-2.4.2-1.7ubuntu1
libtool: and run autoconf again.
make[1]: *** [snappy.lo] 错误 63
make[1]: Leaving directory `/home/rs3000/rpm/snappy-1.1.3'
make: *** [all] 错误 2
$ ./configure
4、编译
$ make
5、拷贝生成的库到默认库文件地址
$ sudo make install
或者“su”登陆root用户
# make install
- 生成的 .h 头文件在/usr/local/include下
- 生成的 .so .a库文件在/usr/local/lib下
二、安装JSON库libjansson
1、下载源文件
$ wget http://www.digip.org/jansson/releases/jansson-2.12.tar.gz
2、解压
$ tar -xf jansson-2.12.tar.gz
3、生成编译环境
$ cd jansson-2.12
$ ./configure
4、编译
$ make
5、拷贝生成的库到默认库文件地址
$ sudo make install
或者“su”登陆root用户
# make install
- 生成的 .h 头文件在/usr/local/include下
- 生成的 .so .a库文件在/usr/local/lib下
三、安装Avro C的API接口库
1、下载源文件
$ wget http://mirrors.hust.edu.cn/apache/avro/avro-1.8.2/c/avro-c-1.8.2.tar.gz
2、解压
$ tar -xf avro-c-1.8.2.tar.gz
$ cd avro-c-1.8.2
3、修改cmake文件
avro C的API库要使用 Cmake 交叉编译工具 来生成编译环境，但原始的 CMakeLists.txt 文件并非最终文件，作者没有完成其中的主要库位置snappy和jansson的指定，需要做如下修改：
1） 将CMakeLists.txt的如下行内容进行修改
注释
#pkg_check_modules(JANSSON jansson>=2.3)
在这一行下面增加一行
find_package(jansson)
即去掉无意义的比较jansson版本功能，改为寻找加载jansson包
2）修改FindSnappy.cmake文件
该文件中未指定libsnappy的安装根目录/usr/local，因此需要在开头增加一个定义：
set(SNAPPY_ROOT_DIR /usr/local)
3）因为源文件中没有任何指定jansson库的内容，所以会直接导致cmake找不到jansson依赖，从而无法编译。这里需要增加一个Findjansson.cmake文件，可以从FindSnappy.cmake直接复制而来，然后修改。
由于libjansson的库位置和Snappy相同，可以简单的修改如下：
- 将文件中的
SNAPPY_改为JANSSON_ - 将头文件jansson.h文件和库文件libjansson.so重新指定:
结果为：
set(JANSSON_ROOT_DIR /usr/local)
find_path(JANSSON_INCLUDE_DIR
NAMES jansson.h
HINTS ${JANSSON_ROOT_DIR}/include)
find_library(JANSSON_LIBRARIES
NAMES libjansson.so
HINTS ${JANSSON_ROOT_DIR}/lib)
4、批处理命令编译
$ ./cmake_avrolib.sh
批处理编译后的库文件、头文件和test文件在 ./build/avrolib下，将./build/avrolib/include 和 ./build/avrolib/lib下，需要将相应文件分别转移到/usr/local下的include和lib文件夹中。
libavro的编译即告完成。
如果想要单步编译，也可按照下面的步骤执行，文件直接生成到/usr/local下。
4、生成编译环境
$ mkdir build $ cd build $ cmake .. -DCMAKE_INSTALL_PREFIX=/usr/local -DCMAKE_BUILD_TYPE=RelWithDebInfo注意，默认的库文件位置在/include 和 /lib下，需要将相应文件转移到/usr/local下。
5、编译
$ make6、拷贝生成的库到默认库文件地址
$ sudo make install或者“su”登陆root用户
# make install编译拷贝全部完成。
网友评论