Azkaban配置属性详解
参考资料见 :Azkaban文档说明
1、Azkaban Web服务器配置
1.1.常规属性
参数 描述 默认 azkaban.name 将显示在UI中的azkaban实例的名称。如果您运行多个Azkaban实例,则很有用 Local azkaban.label 描述Azkaban实例的标签。 My Local Azkaban azkaban.color 十六进制值,可用于为Azkaban UI设置样式颜色。 #FF3601 web.resource.dir 设置ui的css和javascript文件的目录。 web/ default.timezone Azkaban将显示的时区。 America/Los_Angeles viewer.plugin.dir 安装查看器插件的目录。 plugins/viewer job.max.Xms 每个作业可以请求的最大初始内存量。该验证在项目上传时执行 1GB job.max.Xmx 每个作业可以请求的最大内存量。该验证在项目上传时执行 2GB
1.2.多个执行器模式参数
参数 描述 默认 azkaban.use.multiple.executors azkaban应该在多执行程序模式下运行。多执行程序模式必需。 false azkaban.executorselector.filters 分派时要使用的通用的硬过滤器列表。要从StaticRemaining,FlowSize MinimumFreeMemory和CpuStatus中选择。过滤器的顺序无关紧要。 azkaban.executorselector.comparator.{ComparatorName} 整数权重,用于对给定流的可用执行程序进行排名。当前,{ComparatorName}可以是NumberOfAssignedFlowC分隔符,内存,LastDispatched和CpuUsage作为ComparatorName。例如:-azkaban.executorselec tor.comparator.Memory = 2 azkaban.queueprocessing.enabled 应该从Web服务器初始化中启用队列处理器 true azkaban.webserver.queue.size 可在Web服务器上排队的最大流量 100000 azkaban.activeexecutor.refresh.milisecinterval 无需刷新执行程序统计信息即可处理的最长时间(以毫秒为单位) 50000 azkaban.activeexecutor.refresh.flowinterval 无需刷新执行程序统计信息即可处理的最大队列流数 5 azkaban.executorinfo.refresh.maxThreads 刷新执行程序统计信息的最大线程数 5
1.3.项目管理设置参数
参数 描述 默认 project.temp.dir 上载项目时使用的临时目录 temp project.version.retention 清理前保留的未使用项目版本数 3 creator.default.proxy 自动将项目的创建者作为代理用户添加到项目。 true lockdown.create.projects 禁止除具有管理员角色的人员之外的任何人创建新项目。 false lockdown.upload.projects 禁止除管理员用户和有权上传项目的用户以外的任何人 false
1.4.MySQL连接参数
参数 描述 默认 database.type 数据库类型。当前,唯一支持的数据库是mysql。 mysql mysql.port mysql数据库的端口 3306 mysql.host mysql主机 localhost mysql.database mysql数据库名 mysql.user mysql用户名 mysql.password mysql密码 mysql.numconnections Azkaban Web客户端可以打开的数据库连接数 100
1.5.执行器管理器属性
参数 描述 默认 execution.logs.retention.ms 保留执行日志的时间(以毫秒为单位) 7257600000L(12周)
1.6.通知电子邮件属性
参数 描述 默认 mail.sender Azkaban用于发送电子邮件的电子邮件地址 mail.host 电子邮件服务器主机。 mail.user 电子邮件服务器用户名。 mail.password 电子邮件密码。
1.7.用户管理器属性
参数 描述 默认 user.manager.class 用于认证用户的用户管理器。默认值为XML用户管理器,但是可以覆盖它以支持其他身份验证方法,例如JDNI。 azkaban.user.XmlUserM anager user.manager.xml.file XmlUserManager的Xml文件 conf/azkaban-users.xml
1.8.用户会话属性
参数 描述 默认 session.time.to.live 会话生存时间(以毫秒为单位) 86400000 max.num.sessions 最大会话数 10000
2.Azkaban Executor服务器配置
总体配置与web配置相似,具体使用参照 Azkaban简介及安装部署