美文网首页
carte集群的搭建笔记

carte集群的搭建笔记

作者: 眼君 | 来源:发表于2017-11-30 09:13 被阅读197次

原理

由一个主carte服务器和多个carte服务器组成,类似于master-slave结构,不同的是'master'不处理具体任务,只负责任务的分发和收集运行结果。Master carte节点收到请求后,把任务分成多个部分交给slave carte执行,slave执行完毕后把结果交给master进行汇总,再由master返回结果。

1.配置集群

1.1配置主服务器

打开kettle目录,找到pwd目录,里面有4个xml文件,分别是主服务器和子服务器的配置,以及密码文件:

carte配置

主服务器的配置文件为carte-config-master-8080.xml,打开这个文件,修改成以下内容,注意,hostname必须填写主服务器的静态IP。

8080

1.2配置从服务器

剩下的三个从服务器配置文件,以carte-config-8081.xml为例。打开该文件:

从服务器配置

然后回到kettle主目录,打开命令行,输入:

>>./carte.sh localhost 8080

出现以下画面,主服务器创建完成,接着,我们来配置从服务器。

主服务器创建完成 从服务器配置文件

发现该文件有和两层标签,标签表示该服务器要连接的主服务器的信息,保持与carte-config-master.xml一致。标签是从服务器的信息,按照需要更改即可。

1.3启动各节点

然后回到kettle主目录,打开命令行,输入以下命令正常启动主服务器:

>>./carte.sh 172.16.2.222 8080

然后将kettle文件夹传输到从节点到服务器,尤其是主目录下pwd文件夹。

之后在从节点kettle文件夹下打开命令行输入以下命令:

>>./carte.sh 172.16.3.211 8081

2.建立集群

2.1在spoon中创建子服务器

先启动spoon,新创建一个转换。然后选择主对象树-子服务器,点击新建子服务器,然后填写必要信息。

主服务器

然后按同样的方式建立子服务器的节点:

从服务器

2.2 建立集群

在对象树中选择kettle集群schemas,填写schema名称、端口、sokects缓存大小、sockets刷新时间间隔、socketts数据是否压缩。

Schema名称即集群的名称。

端口即集群对外服务的端口。

sockets缓存大小:sockets缓存

Sockets刷新时间间隔:达到多少行记录时刷新到子服务器。

Sockets数据是否压缩:如果网络状态差,建议选择。

之后点击选择子服务器将集群节点加入到该集群中。

集群

2.3执行转换

点击转换-->排序记录,建立一个排序记录节点,之后右键该节点,点击集群,选择集群后点确定。

此时,在排序记录上会多出一个标志,表示该排序记录有一个从服务器负责执行任务。

排序记录

2.4集群执行

右键集群运行设置,如下:

集群运行设置

2.5执行,查看结果

最后,查看执行结果

相关文章

网友评论

      本文标题:carte集群的搭建笔记

      本文链接:https://www.haomeiwen.com/subject/qdimbxtx.html