百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术教程 > 正文

大数据Hadoop之——Azkaban API详解

csdh11 2025-01-14 12:19 26 浏览

一、Azkaban API概述

通常,企业里一般不用使用web UI去设置或者执行任务,只是单纯的在页面上查看任务或者排查问题,更多的是通过Azkaban API去提交执行任务计划。Azkaban提供了一些常用的API操作,可以通过curl或其他HTTP请求客户端访问。但是API调用都需要首先进行适当的身份验证。官方文档:https://azkaban.readthedocs.io/en/latest/ajaxApi.html

Azkaban 基本部分包括环境部署可以参考我之前的文章:大数据Hadoop之——任务调度器Azkaban(Azkaban环境部署)

二、Azkaban API具体使用

目前在这个版本的大多数api中,它不检查请求头。但是最好还是加上请求头。请求头如下:

Content-Type:     application/x-www-form-urlencoded
X-Requested-With: XMLHttpRequest

1)Authenticate(登录认证)

这个API帮助验证用户并提供会话保持,会返回session.id,默认情况下,会话超时时间为24小时(一天)

请求格式如下:

Method: POST
Request URL: /?action=login
Parameter Location: Request body

请求参数如下:

参数

描述

action=login

固定参数

用户名

Azkaban 登录用户名

密码

Azkaban 登录密码

【示例】


$ curl -k -X POST --data "action=login&username=azkaban&password=azkaban" https://localhost:8443

## 提取session.id,注意每次请求返回的session.id都不一样
$ curl -sk -X POST --data "action=login&username=azkaban&password=azkaban" https://localhost:8443|jq '."session.id"'|sed 's/\"//g'

设置.session.id的两种方式

  • 简单地作为请求参数添加
  • 通过cookie设置:azkaban.browser.session.id

下面两个HTTP请求是等价的:

#【温馨提示】执行下面两个api是必须得提前创建了`project:HelloWorld`和`flow:helloworld`
# a) Provide session.id parameter directly
$ curl -k --get --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&ajax=fetchflowgraph&project=HelloWorld&flow=helloworld" https://localhost:8443/manager

# b) Provide azkaban.browser.session.id cookie
$ curl -k --get -b "azkaban.browser.session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480" --data "ajax=fetchflowgraph&project=HelloWorld&flow=helloworld" https://localhost:8443/manager

2)Fetch user Projects(获取项目列表)

请求格式如下:

Method: GET
Request URL: /index?ajax=fetchuserprojects
Parameter Location: Request Query

请求参数如下:

参数

描述

session.id

用户的session.id

ajax=fetchuserprojects

固定参数

user (可选)

要列出项目的用户名。默认情况下,获取登录用户的项目列表。

【示例】

# --get等价于-G,-X GET,默认就是GET请求,下面三个请求等价
$ curl -k --get --data "ajax=fetchuserprojects&user=azkaban&session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480" https://localhost:8443/index

$ curl -k -X GET -G --data "ajax=fetchuserprojects&user=azkaban&session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480" https://localhost:8443/index

# user默认就是session.id对应的用户
$ curl -k -G --data "ajax=fetchuserprojects&session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480" https://localhost:8443/index

3)Create a Project(创建一个项目)

请求格式如下:

Method: POST
Request URL: /manager?action=create
Parameter Location: Request Query

请求参数如下:

参数

描述

session.id

用户的session.id

action=create

固定参数

name

项目名称

description

项目描述

【示例】

$ curl -k -X POST --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&name=test001&description=create a azkaban project" https://localhost:8443/manager?action=create

4)Delete a Project(删除一个项目)

请求格式如下:

Method: GET
Request URL: /manager?delete=true
Parameter Location: Request Query

请求参数如下:

参数

描述

session.id

用户的session.id

delete=true

表示删除项目操作的固定参数

project

要删除的项目名称

【示例】

$ curl -k --get --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&delete=true&project=test001" https://localhost:8443/manager

5)Upload a Project Zip(上传项目zip文件)

请求格式如下:

Method: POST
Content-Type: multipart/mixed
Request URL: /manager?ajax=upload
Parameter Location: Request Body

请求参数如下:

参数

描述

session.id

用户的session.id

ajax=upload

固定参数

project

要上传的项目名称

file

项目压缩文件。类型应该设置为application/zip或application/x-zip-compressed

# 先创建项目
$ curl -k -X POST --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&name=test001&description=create a azkaban project" https://localhost:8443/manager?action=create

# 准备好zip文件,长传项目zip文件
$ curl -k -i -X POST --form 'session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480' --form 'ajax=upload' --form 'file=@projects/test001.zip;type=application/zip' --form 'project=test001' https://localhost:8443/manager

6)Fetch Flows of a Project(获取项目的所有工作流flowId)

请求格式如下:

Method: GET
Request URL: /manager?ajax=fetchprojectflows
Parameter Location: Request Query String

请求参数如下:

参数

描述

session.id

用户的session.id

ajax=fetchprojectflows

固定参数

project

要获取工作流对应的项目名称

【示例】

$ curl -k --get --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&ajax=fetchprojectflows&project=test001" https://localhost:8443/manager

7)Fetch Jobs of a Flow(获取一个工作流的详情)

请求格式如下:

Method: GET
Request URL: /manager?ajax=fetchflowgraph
Parameter Location: Request Query String

请求参数如下:

Method: GET
Request URL: /manager?ajax=fetchflowgraph
Parameter Location: Request Query String

请求参数如下:

参数

描述

session.id

用户的session.id

ajax=fetchflowgraph

固定参数

project

要获取的项目名称

flow

要获取的项目的工作流id,上一个接口获取的flowId

【示例】


# 获取flowId
$ curl -k --get --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&ajax=fetchprojectflows&project=test001" https://localhost:8443/manager
# 获取工作流的具体信息
$ curl -k --get --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&ajax=fetchflowgraph&project=test001&flow=test001" https://localhost:8443/manager

8)Fetch Executions of a Flow(获取工作流的执行列表)

请求格式如下:

Method: GET
Request URL: /manager?ajax=fetchFlowExecutions
Parameter Location: Request Query String

请求参数如下:

参数

描述

session.id

用户的session.id

ajax=fetchFlowExecutions

固定参数

project

项目名称

flow

flowId

start

返回列表的起始位置

length

返回列表的最大长度。例如,如果起始位置是2,长度是10,那么返回的列表将包括执行索引:[2,3,4,5,6,7,8,9,10,11]

【示例】
这里设置每分钟调度一次

其实获取的就是下图的列表信息

获取最新执行的3条记录,请求示例如下:

$ curl -k --get --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&ajax=fetchFlowExecutions&project=test001&flow=test001&start=0&length=3" https://localhost:8443/manager

9)Fetch Running Executions of a Flow(获取正在执行的工作流)

请求格式如下:

Method: GET
Request URL: /executor?ajax=getRunning
Parameter Location: Request Query String

请求参数如下:

参数

描述

session.id

用户的session.id

ajax=getRunning

固定参数

project

项目名称

flow

flowId

【示例】

$ curl -k --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&ajax=getRunning&project=test001&flow=test001" https://localhost:8443/executor

10)Execute a Flow(立即执行工作流)

请求格式如下:

Method: POST
Request URL: /executor?ajax=executeFlow
Parameter Location: Request Query String

请求参数如下:

参数

描述

session.id

用户的session.id

ajax=executeFlow

固定参数

project

项目名称

flow

flowId

【示例】

$ curl -k -X POST --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&ajax=executeFlow&project=test001&flow=test001" https://localhost:8443/executor

11)Cancel a Flow Execution(取消工作流执行)

请求格式如下:

Method: GET
Request URL: /executor?ajax=cancelFlow
Parameter Location: Request Query String

请求参数如下:

参数

描述

session.id

用户的session.id

ajax=cancelFlow

固定参数

execid

Execution id

【示例】


$ curl -k --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&ajax=cancelFlow&execid=78" https://localhost:8443/executor

12)Flexible scheduling using Cron(定时调度工作流【重点】)

这个API调用通过一个cron Expression调度一个流。Cron是一个已经被广泛使用了很长一段时间的UNIX工具,我们使用Quartz库来解析Cron表达式。所有的cron时间表都遵循azkaban web服务器中定义的时区(时区ID由java.util.TimeZone.getDefault(). getid()获得)

请求格式如下:

Method: POST
Request URL: /schedule?ajax=scheduleCronFlow
Parameter Location: Request Query String

请求参数如下:

参数

描述

session.id

用户的session.id

ajax=scheduleCronFlow

固定参数

projectName

工程名称

flow

flowId

cronExpression

CRON表达式是由6或7个用空格分隔的字段组成的字符串,表示一组时间,跟linux系统上的crontab一样。在Azkaban ,我们Quartz Cron Format。

【示例】

  • ? 表示占位符。比如? ? * * * *,如果在8:25启动的话,就会被解析成25 8 * * * *
  • # 用于指定本月的第n个XXX日。例如,day-of-week字段中的“6#3”的值表示“该月的第三个星期五”(第6天=星期五,“#3”=该月的第三个星期五)。其他例子:“2#1”=这个月的第一个星期一,“4#5”=这个月的第五个星期三。请注意,如果您指定了“#5”,而当月的给定周中没有5天,那么当月将不会发生,会到下个月。
### 定时任务表达式解释0 23/30 5,7-10 ? * 6#3 2023
# 0:表示0秒,固定的
# 23/30:23分之后每半个小时执行一次,当然还得更加后面表达式而定
# 5,7-10:5,7,8,9,10这四个整点,每半个小时执行一次
# ?:占位符,根据其它时间而定
# *:每月
# 6#3:表示周,该月的第三个星期五,如果当月没有,则到下个月
# 2023:可选,默认是每年
### 重复执行是修改覆盖
$ curl -k -d ajax=scheduleCronFlow -d projectName=test001 -d flow=test001 --data-urlencode cronExpression="0 23/30 5,7-10 ? * 6#3 2023" -b "azkaban.browser.session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480" https://localhost:8443/schedule

通过下图可能更好的理解cron表示式


重复执行修改


13)Fetch a Schedule(获取调度任务)

请求格式如下:

Method: GET
Request URL: /schedule?ajax=fetchSchedule
Parameter Location: Request Query String

请求参数如下:

参数

描述

session.id

用户的session.id

ajax=fetchSchedule

固定参数

projectId

项目的id

flowId

flowId

# 获取projectId 和 flowId 
$ curl -k --get --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&ajax=fetchprojectflows&project=test001" https://localhost:8443/manager

# Fetch a Schedule
$ curl -k --get --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&ajax=fetchSchedule&projectId=19&flowId=test001" https://localhost:8443/scheule

14)Unschedule a Flow(取消工作流的定时任务)

请求格式如下:

Method: POST
Request URL: /schedule?action=removeSched
Parameter Location: Request Query String

请求参数如下:

参数

描述

session.id

用户的session.id

action=removeSched

固定参数

scheduleId

调度任务id

【示例】

$ curl -k https://localhost:8443/schedule -d "action=removeSched&scheduleId=8" -b azkaban.browser.session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480 https://localhost:8443/schedule

15)Fetch Logs of a Project(获取项目日志)

请求格式如下:

Method: GET
Request URL: /manager?ajax=fetchProjectLogs
Parameter Location: Request Query String

请求参数如下:

参数

描述

session.id

用户的session.id

ajax=fetchProjectLogs

固定参数

project

项目名称

【示例】

$ curl -k --get --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&ajax=fetchProjectLogs&project=test001" https://localhost:8443/manager

16)Fetch Execution Job Logs(获取执行任务日志)

请求格式如下:

Method: GET
Request URL: /executor?ajax=fetchExecJobLogs
Parameter Location: Request Query String

请求参数如下:

参数

描述

session.id

用户的session.id

ajax=fetchExecJobLogs

固定参数

execid

execid

jobId

jobId,其实就是flow文件里的job name

offset

日志数据的偏移量

length

日志数据的长度。例如,如果偏移量设置为10,长度为1000,则返回的日志将从第10个字符开始,长度为1000(如果剩余的日志长度小于1000,则小于1000)

【示例】

# 获取job id也就是job name
$ curl -k --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&ajax=fetchexecflow&execid=105" https://localhost:8443/executor
# 获取日志
$ curl -k --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&ajax=fetchExecJobLogs&execid=105&jobId=jobA&offset=0&length=100" https://localhos:8443/executor

17)设置SLA报警

请求格式如下:

Method: POST
Request URL: /schedule?ajax=setSla
Parameter Location: Request Query String
$ curl -k -d "ajax=setSla&scheduleId=9&slaEmails=a@example.com;b@example.com&settings[0]=aaa,SUCCESS,5:00,true,false&settings[1]=bbb,SUCCESS,10:00,false,true" -b "azkaban.browser.session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480" https://localhost:8443/schedule

这个API在企业里用的不多,在web UI上操作更方便直观 ,稍微了解就行。

18)Fetch a SLA

这个API也是用的不多,在web UI上查看更方便,了解即可。

请求格式如下:

Method: GET
Request URL: /schedule?ajax=slaInfo
Parameter Location: Request Query String

【示例】

$ curl -k --get --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&ajax=slaInfo&scheduleId=9" https://localhost:8443/schedule

【温馨提示】这里为了方便都是通过curl方式去测试,其实在公司环境中,更多的可能是用python、或者java等高级语言去调用Azkaban API。这里只是列出了常见的API接口,尤其是上面第12个接口Flexible scheduling using Cron用的是最多的。更多Azkaban API接口使用,请查看官方文档:https://azkaban.readthedocs.io/en/latest/ajaxApi.html。

未完待续,请小伙伴耐心等待~

相关推荐

探索Java项目中日志系统最佳实践:从入门到精通

探索Java项目中日志系统最佳实践:从入门到精通在现代软件开发中,日志系统如同一位默默无闻却至关重要的管家,它记录了程序运行中的各种事件,为我们排查问题、监控性能和优化系统提供了宝贵的依据。在Java...

用了这么多年的java日志框架,你真的弄懂了吗?

在项目开发过程中,有一个必不可少的环节就是记录日志,相信只要是个程序员都用过,可是咱们自问下,用了这么多年的日志框架,你确定自己真弄懂了日志框架的来龙去脉嘛?下面笔者就详细聊聊java中常用日志框架的...

物理老师教你学Java语言(中篇)(物理专业学编程)

第四章物质的基本结构——类与对象...

一文搞定!Spring Boot3 定时任务操作全攻略

各位互联网大厂的后端开发小伙伴们,在使用SpringBoot3开发项目时,你是否遇到过定时任务实现的难题呢?比如任务调度时间不准确,代码报错却找不到方向,是不是特别头疼?如今,随着互联网业务规模...

你还不懂java的日志系统吗 ?(java的日志类)

一、背景在java的开发中,使用最多也绕不过去的一个话题就是日志,在程序中除了业务代码外,使用最多的就是打印日志。经常听到的这样一句话就是“打个日志调试下”,没错在日常的开发、调试过程中打印日志是常干...

谈谈枚举的新用法--java(java枚举的作用与好处)

问题的由来前段时间改游戏buff功能,干了一件愚蠢的事情,那就是把枚举和运算集合在一起,然后运行一段时间后buff就出现各种问题,我当时懵逼了!事情是这样的,做过游戏的都知道,buff,需要分类型,且...

你还不懂java的日志系统吗(javaw 日志)

一、背景在java的开发中,使用最多也绕不过去的一个话题就是日志,在程序中除了业务代码外,使用最多的就是打印日志。经常听到的这样一句话就是“打个日志调试下”,没错在日常的开发、调试过程中打印日志是常干...

Java 8之后的那些新特性(三):Java System Logger

去年12月份log4j日志框架的一个漏洞,给Java整个行业造成了非常大的影响。这个事情也顺带把log4j这个日志框架推到了争议的最前线。在Java领域,log4j可能相对比较流行。而在log4j之外...

Java开发中的日志管理:让程序“开口说话”

Java开发中的日志管理:让程序“开口说话”日志是程序员的朋友,也是程序的“嘴巴”。它能让程序在运行过程中“开口说话”,告诉我们它的状态、行为以及遇到的问题。在Java开发中,良好的日志管理不仅能帮助...

吊打面试官(十二)--Java语言中ArrayList类一文全掌握

导读...

OS X 效率启动器 Alfred 详解与使用技巧

问:为什么要在Mac上使用效率启动器类应用?答:在非特殊专业用户的环境下,(每天)用户一般可以在系统中进行上百次操作,可以是点击,也可以是拖拽,但这些只是过程,而我们的真正目的是想获得结果,也就是...

Java中 高级的异常处理(java中异常处理的两种方式)

介绍异常处理是软件开发的一个关键方面,尤其是在Java中,这种语言以其稳健性和平台独立性而闻名。正确的异常处理不仅可以防止应用程序崩溃,还有助于调试并向用户提供有意义的反馈。...

【性能调优】全方位教你定位慢SQL,方法介绍下!

1.使用数据库自带工具...

全面了解mysql锁机制(InnoDB)与问题排查

MySQL/InnoDB的加锁,一直是一个常见的话题。例如,数据库如果有高并发请求,如何保证数据完整性?产生死锁问题如何排查并解决?下面是不同锁等级的区别表级锁:开销小,加锁快;不会出现死锁;锁定粒度...

看懂这篇文章,你就懂了数据库死锁产生的场景和解决方法

一、什么是死锁加锁(Locking)是数据库在并发访问时保证数据一致性和完整性的主要机制。任何事务都需要获得相应对象上的锁才能访问数据,读取数据的事务通常只需要获得读锁(共享锁),修改数据的事务需要获...