美文网首页Flink
编译flink-shaded-hadoop-2-uber.jar

编译flink-shaded-hadoop-2-uber.jar

作者: 羋学僧 | 来源:发表于2020-12-06 11:18 被阅读0次

编译flink-shaded-hadoop-2-uber.jar包

从Flink 1.10开始,flink-shaded-hadoop-2-uberFlink项目不再正式支持使用发行版。
如果想建立flink-shaded对供应商特定的Hadoop版本,您必须首先描述配置特定供应商的Maven仓库在本地Maven安装在这里。

完成此步骤后,将flink-shaded-hadoop-2-uber.jar放入Flink下的/lib目录中。

编译环境

  • Flink1.10
  • Hadoop2.7.7

1. 下载flink-shaded

前往github下载flink-shaded 下载relese-10.0

https://github.com/apache/flink-shaded/releases

2. 解压至linux

cd /home/bigdata/soft/

tar -zxvf flink-shaded-release-10.0.tar.gz

mv flink-shaded-release-10.0/ /home/bigdata/apps/

3. 进入flink-shaded-hadoop-2-parent,修改pom

cd   /home/bigdata/apps/flink-shaded-release-10.0/flink-shaded-hadoop-2-parent/
vim pom.xml

改成自己的hadoop版本然后保存退出

4. 进入flink-shaded-hadoop-2 修改pom

cd flink-shaded-hadoop-2/
vim pom.xml

5.进入flink-shaded-hadoop-2-uber 修改pom

cd /home/bigdata/apps/flink-shaded-release-10.0/flink-shaded-hadoop-2-parent/flink-shaded-hadoop-2-uber/
vim pom.xml

如果没有这两个配置 请添加

    <dependencies>
            <dependency>
                    <groupId>org.apache.flink</groupId>
                    <artifactId>flink-shaded-hadoop-2</artifactId>
                    <version>${hadoop.version}-10.0</version>
            </dependency>
            <dependency>
                    <groupId>commons-cli</groupId>
                    <artifactId>commons-cli</artifactId>
                    <version>1.3.1</version>
            </dependency>

    </dependencies>

6. 返回进入flink-shaded-release-10.0下 修改pom

cd /home/bigdata/apps/flink-shaded-release-10.0/
vim pom.xml
在这里插入图片描述

添加阿里云镜像

在这里插入图片描述
     <profile>
        <id>vendor-repos</id>
        <activation>
            <property>
                <name>vendor-repos</name>
            </property>
        </activation>   <!-- Add vendor maven repositories -->
        <repositories>       <!-- Cloudera -->
            <repository>
                <id>cloudera-releases</id>
                <url>https://maven.aliyun.com/repository/central</url>
                <releases>
                    <enabled>true</enabled>
                </releases>
                <snapshots>
                    <enabled>false</enabled>
                </snapshots>
            </repository>
        </repositories>
    </profile>

7. 配置完毕,运行前提是需要linux配置maven

如果你还没有配置maven,可以参考这篇文章
Linux下安装maven环境

如果你有配置maven 请继续下一步

8. 执行编译

cd /home/bigdata/apps/flink-shaded-release-10.0/

mvn clean install -DskipTests -Dhadoop.version=2.7.7 -Drat.skip=true

全程没ERROR 就是成功


9. 找到jar 放入flink1.10的lib下

cp flink-shaded-hadoop-2-uber-2.7.7-10.0.jar /home/bigdata/apps/flink-1.10.1/lib/

相关文章

  • 编译flink-shaded-hadoop-2-uber.jar

    编译flink-shaded-hadoop-2-uber.jar包 从Flink 1.10开始,flink-sha...

  • dtb文件编译

    反编译 编译 批量反编译

  • 编译过程与静态库&动态库

    一、编译过程 1、预编译(Preprocessing) 预编译即预处理,编译器不能直接对预编译命令进行编译,必须在...

  • 宏、const、static、extern使用详解

    宏与const的区别 编译时刻:宏是预编译(编译之前处理),const是编译阶段。编译检查:宏不做检查,不会报编译...

  • iOS const 与宏

    编译时刻:宏是预编译(编译之前处理),const是编译阶段。 编译检查:宏不做检查,不会报编译错误,只是替换,co...

  • 2020-09-09 RK系统编译

    编译uboot: 编译kernel: 环境配置: 编译系统:

  • 程序编译过程

    本文编译的文件cpu架构为X86_64。 编译型语言编译过程主要有预编译、编译、汇编、链接。 预编译This st...

  • 自己动手编译OpenJDK

    Linux下 编译 Centos 下编译OpenJDK Mac下编译 MacOS 下编译OpenJDK Windo...

  • 宏 const static extern的区别与使用

    一. const 与 宏的区别 编译时刻: 宏是预编译(编译之前处理), const是编译阶段处理 编译检查: 宏...

  • 晚期(运行期)优化

    HotSpot的即时编译器 解释器与编译器 编译对象与触发条件 编译过程 编译优化技术 如果还对其他的经典编译优化...

网友评论

    本文标题:编译flink-shaded-hadoop-2-uber.jar

    本文链接:https://www.haomeiwen.com/subject/rhevwktx.html