kettle作为一款开源etl工具,在数据仓库领域的应用还算是比较广泛的,做过数仓的朋友应该都知道,在做etl开发的时候,对于参数变量的引用是时常出现的场景,对于一些公共的变量,kettle的做法是启动的时候默认读取用户目录下一个kettle.properties文件,这种做法维护起来不是特别方便,如果服务器有多台每次新增变量,每台服务器都需要维护,为了解决这个问题,可以通过修改kettle源码从数据库读取达到目的。
源码编译步骤(本文采用idea工具编译)
-
工具下载:
kettle源码下载:https://github.com/pentaho/pentaho-kettle/tree/8.0.0.0-R
kettle客户端下载:https://sourceforge.net/projects/pentaho/files
maven下载:http://maven.apache.org/download.cgi -
idea导入工程
解压下好的源码,idea选择源码目录pom.xml
image.png
打开UI模块,修改swt的maven地址为org.eclipse.swt.win32.win32.x86_64,不然会报错,因为默认引用的是Linux的jar包,我们换成Windows的
image.png
然后将客户端里的目录data-integration\ui下的文件复制到工程的pentaho-kettle-8.0.0.0-R\ui\src\main\resources\ui目录下,这里是一些资源文件
等待idea自动导入依赖jar包。。。。。 -
启动Spoon.java类
kettle的启动类是org.pentaho.di.ui.spoon.Spoon,这时候启动这个类不出意外kettle的界面就出来了
image.png -
修改源码
找到类org.pentaho.di.core.util.EnvUtil
environmentInit这个方法会读取kettle.properties配置文件加载到kettle全局变量
源码如下:
Map<Object, Object> kettleProperties = EnvUtil.readProperties( Const.KETTLE_PROPERTIES );
insertDefaultValues( kettleProperties );
applyKettleProperties( kettleProperties );
我们添加一个方法,调用一次就OK了:
private static void getMysqlParam() {
Properties pro = new Properties();
String key = "";
String value = "";
try {
Class.forName("com.mysql.jdbc.Driver");
Connection conn = DriverManager.getConnection(
"jdbc:mysql://xx.xx.xx.xx/xx?useUnicode=true&characterEncoding=utf8",
"xxxx", "xxxxxx");
Statement stat = conn.createStatement();
ResultSet rst = stat.executeQuery("select t.key,t.value from table t ");
while (rst.next()) {
key = rst.getString(1);
value = rst.getString(2);
//System.out.println(key + "---->" + value);
pro.put(key, value);
}
insertDefaultValues(pro);
applyKettleProperties(pro);
} catch (ClassNotFoundException e) {
e.printStackTrace();
} catch (SQLException e) {
e.printStackTrace();
}
}
- maven打包
到项目所在目录执行命令
mvn clean install --settings C:\Users\xn043275.m2\settings.xml -Dmaven.test.skip=true
生成的目标文件路径在pentaho-kettle-8.0.0.0-R\assemblies\pdi-ce\target
分享就到这里,谢谢大家!
网友评论