美文网首页
azkaban配置多节点集群模式部署

azkaban配置多节点集群模式部署

作者: skyjunjun | 来源:发表于2017-11-30 19:58 被阅读0次

azkaban有2种集群模式:

1.首先需要在web-server配置多节点模式

azkaban.use.multiple.executors=true
azkaban.executorselector.filters=StaticRemainingFlowSize,MinimumFreeMemory,CpuStatus
azkaban.executorselector.comparator.NumberOfAssignedFlowComparator=1
azkaban.executorselector.comparator.Memory=1
azkaban.executorselector.comparator.LastDispatched=1
azkaban.executorselector.comparator.CpuUsage=1

2.配置存储模式
azkaban有2种3模式:
1).local
单机情况下使用

azkaban.storage.type=LOCAL
azkaban.storage.local.basedir=/home/az/LOCAL_STORAGE

2).db
集群、多节点模式
azkaban.storage.type 默认模式,上传zip包存在db的blob字段中

3).hdfs
集群、多节点模式

azkaban.storage.type=HDFS
azkaban.storage.hdfs.root.uri=hdfs://nameservice1/tmp/az
hadoop.conf.dir.path=/etc/hadoop/conf

3.服务启动
多节点集群模式需要先启动所有exec-server,再启动web-server
web-server是启动时加载exec节点的,不会动态刷新(版本3.30.1)

bin/azkaban-executor-start.sh

bin/azkaban-web-start.sh

http://webpaas.com/2017/07/02/azkaban/

相关文章

  • azkaban配置多节点集群模式部署

    azkaban有2种集群模式: 1.首先需要在web-server配置多节点模式 2.配置存储模式azkaban有...

  • Flink 部署模式

    本文仅对Flink集群的部署模式作简单探讨,并未对如何部署(如环境变量,节点互信,hadoop集成配置)作说明,相...

  • Rabbitmq集群部署

    集群部署步骤 0 前期准备 集群中的所有节点安装部署好了rabbitmq,并且所有的配置保持一致,例如配置 /et...

  • Elasticsearch-config

    集群名称配置:集群不同节点配置相同的集群名称 集群节点配置:集群不同节点配置不同的节点名称 路径配置:数据路劲、日...

  • 3分钟快速入门RocketMQ(下)

    RocketMQ 集群部署模式 单 master 模式 也就是只有一个 master 节点,称不上是集群,一旦这个...

  • MQ RabbitMQ 高可用集群(二):集群搭建

    1 集群节点安装 单节点安装RabbitMQ,可参考博文: MQ RocketMQ安装部署和配置: https:...

  • Spark-Standalone模式

    Standalone模式:只使用Spark自身节点运行的集群模式,也就是所谓的独立部署Standalone模式。 ...

  • 原创-zookeeper集群优先选择连接节点改造

    背景 zookeeper集群跨机房部署,采用observer部署模式,达到目标如下: A机房zk节点参与选举 B机...

  • redis集群模式配置

    配置redis集群模式 首先配置redis集群模式最好使用3主3从(6个节点)的模式,测试环境中,只能在一台机器上...

  • 安装配置Zookeeper和Kafka集群

    环境配置参考 ELK环境配置 安装配置zookeeper 部署在zk集群节点机器上(最少需要三台) 安装zooke...

网友评论

      本文标题:azkaban配置多节点集群模式部署

      本文链接:https://www.haomeiwen.com/subject/pxdbbxtx.html