大数据Hadoop之——Azkaban API详解
csdh11 2025-01-14 12:19 4 浏览
一、Azkaban API概述
通常,企业里一般不用使用web UI去设置或者执行任务,只是单纯的在页面上查看任务或者排查问题,更多的是通过Azkaban API去提交执行任务计划。Azkaban提供了一些常用的API操作,可以通过curl或其他HTTP请求客户端访问。但是API调用都需要首先进行适当的身份验证。官方文档:https://azkaban.readthedocs.io/en/latest/ajaxApi.html
Azkaban 基本部分包括环境部署可以参考我之前的文章:大数据Hadoop之——任务调度器Azkaban(Azkaban环境部署)
二、Azkaban API具体使用
目前在这个版本的大多数api中,它不检查请求头。但是最好还是加上请求头。请求头如下:
Content-Type: application/x-www-form-urlencoded
X-Requested-With: XMLHttpRequest
1)Authenticate(登录认证)
这个API帮助验证用户并提供会话保持,会返回session.id,默认情况下,会话超时时间为24小时(一天)。
请求格式如下:
Method: POST
Request URL: /?action=login
Parameter Location: Request body
请求参数如下:
参数 | 描述 |
action=login | 固定参数 |
用户名 | Azkaban 登录用户名 |
密码 | Azkaban 登录密码 |
【示例】 |
$ curl -k -X POST --data "action=login&username=azkaban&password=azkaban" https://localhost:8443
## 提取session.id,注意每次请求返回的session.id都不一样
$ curl -sk -X POST --data "action=login&username=azkaban&password=azkaban" https://localhost:8443|jq '."session.id"'|sed 's/\"//g'
设置.session.id的两种方式
- 简单地作为请求参数添加
- 通过cookie设置:azkaban.browser.session.id
下面两个HTTP请求是等价的:
#【温馨提示】执行下面两个api是必须得提前创建了`project:HelloWorld`和`flow:helloworld`
# a) Provide session.id parameter directly
$ curl -k --get --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&ajax=fetchflowgraph&project=HelloWorld&flow=helloworld" https://localhost:8443/manager
# b) Provide azkaban.browser.session.id cookie
$ curl -k --get -b "azkaban.browser.session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480" --data "ajax=fetchflowgraph&project=HelloWorld&flow=helloworld" https://localhost:8443/manager
2)Fetch user Projects(获取项目列表)
请求格式如下:
Method: GET
Request URL: /index?ajax=fetchuserprojects
Parameter Location: Request Query
请求参数如下:
参数 | 描述 |
session.id | 用户的session.id |
ajax=fetchuserprojects | 固定参数 |
user (可选) | 要列出项目的用户名。默认情况下,获取登录用户的项目列表。 |
【示例】
# --get等价于-G,-X GET,默认就是GET请求,下面三个请求等价
$ curl -k --get --data "ajax=fetchuserprojects&user=azkaban&session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480" https://localhost:8443/index
$ curl -k -X GET -G --data "ajax=fetchuserprojects&user=azkaban&session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480" https://localhost:8443/index
# user默认就是session.id对应的用户
$ curl -k -G --data "ajax=fetchuserprojects&session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480" https://localhost:8443/index
3)Create a Project(创建一个项目)
请求格式如下:
Method: POST
Request URL: /manager?action=create
Parameter Location: Request Query
请求参数如下:
参数 | 描述 |
session.id | 用户的session.id |
action=create | 固定参数 |
name | 项目名称 |
description | 项目描述 |
【示例】
$ curl -k -X POST --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&name=test001&description=create a azkaban project" https://localhost:8443/manager?action=create
4)Delete a Project(删除一个项目)
请求格式如下:
Method: GET
Request URL: /manager?delete=true
Parameter Location: Request Query
请求参数如下:
参数 | 描述 |
session.id | 用户的session.id |
delete=true | 表示删除项目操作的固定参数 |
project | 要删除的项目名称 |
【示例】
$ curl -k --get --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&delete=true&project=test001" https://localhost:8443/manager
5)Upload a Project Zip(上传项目zip文件)
请求格式如下:
Method: POST
Content-Type: multipart/mixed
Request URL: /manager?ajax=upload
Parameter Location: Request Body
请求参数如下:
参数 | 描述 |
session.id | 用户的session.id |
ajax=upload | 固定参数 |
project | 要上传的项目名称 |
file | 项目压缩文件。类型应该设置为application/zip或application/x-zip-compressed |
# 先创建项目
$ curl -k -X POST --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&name=test001&description=create a azkaban project" https://localhost:8443/manager?action=create
# 准备好zip文件,长传项目zip文件
$ curl -k -i -X POST --form 'session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480' --form 'ajax=upload' --form 'file=@projects/test001.zip;type=application/zip' --form 'project=test001' https://localhost:8443/manager
6)Fetch Flows of a Project(获取项目的所有工作流flowId)
请求格式如下:
Method: GET
Request URL: /manager?ajax=fetchprojectflows
Parameter Location: Request Query String
请求参数如下:
参数 | 描述 |
session.id | 用户的session.id |
ajax=fetchprojectflows | 固定参数 |
project | 要获取工作流对应的项目名称 |
【示例】
$ curl -k --get --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&ajax=fetchprojectflows&project=test001" https://localhost:8443/manager
7)Fetch Jobs of a Flow(获取一个工作流的详情)
请求格式如下:
Method: GET
Request URL: /manager?ajax=fetchflowgraph
Parameter Location: Request Query String
请求参数如下:
Method: GET
Request URL: /manager?ajax=fetchflowgraph
Parameter Location: Request Query String
请求参数如下:
参数 | 描述 |
session.id | 用户的session.id |
ajax=fetchflowgraph | 固定参数 |
project | 要获取的项目名称 |
flow | 要获取的项目的工作流id,上一个接口获取的flowId |
【示例】 |
# 获取flowId
$ curl -k --get --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&ajax=fetchprojectflows&project=test001" https://localhost:8443/manager
# 获取工作流的具体信息
$ curl -k --get --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&ajax=fetchflowgraph&project=test001&flow=test001" https://localhost:8443/manager
8)Fetch Executions of a Flow(获取工作流的执行列表)
请求格式如下:
Method: GET
Request URL: /manager?ajax=fetchFlowExecutions
Parameter Location: Request Query String
请求参数如下:
参数 | 描述 |
session.id | 用户的session.id |
ajax=fetchFlowExecutions | 固定参数 |
project | 项目名称 |
flow | flowId |
start | 返回列表的起始位置 |
length | 返回列表的最大长度。例如,如果起始位置是2,长度是10,那么返回的列表将包括执行索引:[2,3,4,5,6,7,8,9,10,11] |
【示例】
这里设置每分钟调度一次
其实获取的就是下图的列表信息
获取最新执行的3条记录,请求示例如下:
$ curl -k --get --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&ajax=fetchFlowExecutions&project=test001&flow=test001&start=0&length=3" https://localhost:8443/manager
9)Fetch Running Executions of a Flow(获取正在执行的工作流)
请求格式如下:
Method: GET
Request URL: /executor?ajax=getRunning
Parameter Location: Request Query String
请求参数如下:
参数 | 描述 |
session.id | 用户的session.id |
ajax=getRunning | 固定参数 |
project | 项目名称 |
flow | flowId |
【示例】
$ curl -k --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&ajax=getRunning&project=test001&flow=test001" https://localhost:8443/executor
10)Execute a Flow(立即执行工作流)
请求格式如下:
Method: POST
Request URL: /executor?ajax=executeFlow
Parameter Location: Request Query String
请求参数如下:
参数 | 描述 |
session.id | 用户的session.id |
ajax=executeFlow | 固定参数 |
project | 项目名称 |
flow | flowId |
【示例】
$ curl -k -X POST --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&ajax=executeFlow&project=test001&flow=test001" https://localhost:8443/executor
11)Cancel a Flow Execution(取消工作流执行)
请求格式如下:
Method: GET
Request URL: /executor?ajax=cancelFlow
Parameter Location: Request Query String
请求参数如下:
参数 | 描述 |
session.id | 用户的session.id |
ajax=cancelFlow | 固定参数 |
execid | Execution id |
【示例】 |
$ curl -k --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&ajax=cancelFlow&execid=78" https://localhost:8443/executor
12)Flexible scheduling using Cron(定时调度工作流【重点】)
这个API调用通过一个cron Expression调度一个流。Cron是一个已经被广泛使用了很长一段时间的UNIX工具,我们使用Quartz库来解析Cron表达式。所有的cron时间表都遵循azkaban web服务器中定义的时区(时区ID由java.util.TimeZone.getDefault(). getid()获得)
请求格式如下:
Method: POST
Request URL: /schedule?ajax=scheduleCronFlow
Parameter Location: Request Query String
请求参数如下:
参数 | 描述 |
session.id | 用户的session.id |
ajax=scheduleCronFlow | 固定参数 |
projectName | 工程名称 |
flow | flowId |
cronExpression | CRON表达式是由6或7个用空格分隔的字段组成的字符串,表示一组时间,跟linux系统上的crontab一样。在Azkaban ,我们Quartz Cron Format。 |
【示例】
- ? 表示占位符。比如? ? * * * *,如果在8:25启动的话,就会被解析成25 8 * * * *
- # 用于指定本月的第n个XXX日。例如,day-of-week字段中的“6#3”的值表示“该月的第三个星期五”(第6天=星期五,“#3”=该月的第三个星期五)。其他例子:“2#1”=这个月的第一个星期一,“4#5”=这个月的第五个星期三。请注意,如果您指定了“#5”,而当月的给定周中没有5天,那么当月将不会发生,会到下个月。
### 定时任务表达式解释0 23/30 5,7-10 ? * 6#3 2023
# 0:表示0秒,固定的
# 23/30:23分之后每半个小时执行一次,当然还得更加后面表达式而定
# 5,7-10:5,7,8,9,10这四个整点,每半个小时执行一次
# ?:占位符,根据其它时间而定
# *:每月
# 6#3:表示周,该月的第三个星期五,如果当月没有,则到下个月
# 2023:可选,默认是每年
### 重复执行是修改覆盖
$ curl -k -d ajax=scheduleCronFlow -d projectName=test001 -d flow=test001 --data-urlencode cronExpression="0 23/30 5,7-10 ? * 6#3 2023" -b "azkaban.browser.session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480" https://localhost:8443/schedule
通过下图可能更好的理解cron表示式
重复执行修改
13)Fetch a Schedule(获取调度任务)
请求格式如下:
Method: GET
Request URL: /schedule?ajax=fetchSchedule
Parameter Location: Request Query String
请求参数如下:
参数 | 描述 |
session.id | 用户的session.id |
ajax=fetchSchedule | 固定参数 |
projectId | 项目的id |
flowId | flowId |
# 获取projectId 和 flowId
$ curl -k --get --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&ajax=fetchprojectflows&project=test001" https://localhost:8443/manager
# Fetch a Schedule
$ curl -k --get --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&ajax=fetchSchedule&projectId=19&flowId=test001" https://localhost:8443/scheule
14)Unschedule a Flow(取消工作流的定时任务)
请求格式如下:
Method: POST
Request URL: /schedule?action=removeSched
Parameter Location: Request Query String
请求参数如下:
参数 | 描述 |
session.id | 用户的session.id |
action=removeSched | 固定参数 |
scheduleId | 调度任务id |
【示例】
$ curl -k https://localhost:8443/schedule -d "action=removeSched&scheduleId=8" -b azkaban.browser.session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480 https://localhost:8443/schedule
15)Fetch Logs of a Project(获取项目日志)
请求格式如下:
Method: GET
Request URL: /manager?ajax=fetchProjectLogs
Parameter Location: Request Query String
请求参数如下:
参数 | 描述 |
session.id | 用户的session.id |
ajax=fetchProjectLogs | 固定参数 |
project | 项目名称 |
【示例】
$ curl -k --get --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&ajax=fetchProjectLogs&project=test001" https://localhost:8443/manager
16)Fetch Execution Job Logs(获取执行任务日志)
请求格式如下:
Method: GET
Request URL: /executor?ajax=fetchExecJobLogs
Parameter Location: Request Query String
请求参数如下:
参数 | 描述 |
session.id | 用户的session.id |
ajax=fetchExecJobLogs | 固定参数 |
execid | execid |
jobId | jobId,其实就是flow文件里的job name |
offset | 日志数据的偏移量 |
length | 日志数据的长度。例如,如果偏移量设置为10,长度为1000,则返回的日志将从第10个字符开始,长度为1000(如果剩余的日志长度小于1000,则小于1000) |
【示例】
# 获取job id也就是job name
$ curl -k --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&ajax=fetchexecflow&execid=105" https://localhost:8443/executor
# 获取日志
$ curl -k --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&ajax=fetchExecJobLogs&execid=105&jobId=jobA&offset=0&length=100" https://localhos:8443/executor
17)设置SLA报警
请求格式如下:
Method: POST
Request URL: /schedule?ajax=setSla
Parameter Location: Request Query String
$ curl -k -d "ajax=setSla&scheduleId=9&slaEmails=a@example.com;b@example.com&settings[0]=aaa,SUCCESS,5:00,true,false&settings[1]=bbb,SUCCESS,10:00,false,true" -b "azkaban.browser.session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480" https://localhost:8443/schedule
这个API在企业里用的不多,在web UI上操作更方便直观 ,稍微了解就行。
18)Fetch a SLA
这个API也是用的不多,在web UI上查看更方便,了解即可。
请求格式如下:
Method: GET
Request URL: /schedule?ajax=slaInfo
Parameter Location: Request Query String
【示例】
$ curl -k --get --data "session.id=b2528ee7-0189-46d3-9a68-e03ea00ad480&ajax=slaInfo&scheduleId=9" https://localhost:8443/schedule
【温馨提示】这里为了方便都是通过curl方式去测试,其实在公司环境中,更多的可能是用python、或者java等高级语言去调用Azkaban API。这里只是列出了常见的API接口,尤其是上面第12个接口Flexible scheduling using Cron用的是最多的。更多Azkaban API接口使用,请查看官方文档:https://azkaban.readthedocs.io/en/latest/ajaxApi.html。
未完待续,请小伙伴耐心等待~
相关推荐
- 关于mac 苹果系统早期版本 装win10系统麦克风 摄像头不可用的问题
-
不建议用bootcamp装系统,有很多限制;尤其对于2013款macbookair,bootcamp是5.0版本,只能装微软官方的win7系统,不好的点是原版win7不带usb3.0驱动,...
- U盘制作Win10启动盘
-
在前面的一个文章《解决Win7安装鼠标和键盘无法使用的问题...
- 15种常用的在线工具网站清单「值得收藏」
-
作者:Snailclimb转发链接:https://segmentfault.com/a/1190000022896257前言大家好,我是Echa,一个三观比主角还正的技术人。...
- 一文看懂Ajax,学习前端开发的同学不可错过
-
我是专注于软件开发和IT教育的孙鑫老师,出版过多本计算机图书,包括《JavaWeb开发详解》、《VC++深入详解》、《Struts2深入详解》、《Servlet/JSP深入详解》、《XML、XML...
- SpringBoot使用ElasticSearch做文档对象的持久化存储?
-
ElasticSearch是一个基于Lucene的开源搜索引擎,广泛应用于日志分析、全文搜索、复杂查询等领域,在有些场景中使用ElasticSearch进行文档对象的持久化存储是一个很不错的选择...
- HTML5 的一些小的整理吧
-
凌晨3:31家里打来电话奶奶走了,可是并不能回去。用一些整理的笔记来纪念吧虽然奶奶看不懂,如果手头有黑白的那张照片我一定会用canvas画一张悼词。说正题吧,主要的就是一些HTML5AP...
- 大数据Hadoop之——Azkaban API详解
-
一、AzkabanAPI概述通常,企业里一般不用使用webUI去设置或者执行任务,只是单纯的在页面上查看任务或者排查问题,更多的是通过AzkabanAPI去提交执行任务计划。Azkaban提供了...
- php手把手教你做网站(三十)上传图片生成缩略图
-
三种方法:按比例缩小、图片裁切、预览图片裁切不管使用哪一个都是建立在图片已经上传的基础上;预览裁切上传,如果预览的图片就是原始大小,可以预览裁切以后上传(这里是个假象,下边会说明);...
- 国外免费公共云存储产品有哪些(上)?
-
公共云存储产品在今天正在变得越发火爆,人们与云端的关联无处不在。很多供应商为了让客户注册他们的产品,往往会提供免费的云存储来争取用户。今天我们来看看国外都有哪些可用的主流免费云储存网盘应用。国外免费公...
- JSON&Ajax介绍和实例
-
1.JSON介绍JSON指的是JavaScript对象表示法(JavaScriptObjectNotation),JSON的本质仍然是JavaScript对象...
- 文件上传,排版是伤
-
当你还是一只猫的时候,记着你的目标要成为一只虎。当你成为一只虎的时候,别忘了你曾经是一只猫。心态要高,姿态要低。不要看轻别人,更不要高估自己。上传专题:文件上传操作图片预览功能...
- Nodejs文件上传、监听上传进度
-
文件上传如果加上进度条会有更好的用户体验(尤其是中大型文件),本文使用Nodejs配合前端完成这个功能。前端我们使用FormData来作为载体发送数据。效果前端部分HTML部分和Js部分&...
- 推荐4个很棒的Java项目,超级适合小白练手,赶紧收藏!
-
好程序员今天给大家推荐4个很棒的Java练手项目,超适合小白哦~需要源码的,后台dd吧~一、...
- SPRINGBOOT 实现大文件上传下载、分片、断点续传教程
-
SPRINGBOOT实现大文件上传下载、分片、断点续传教程,SPRINGBOOT大文件分片上传/多线程上传,SPRINGMVCWEBUPLOADER分片上传,超大文件上传下载以及秒传、提速和限速...
- 从致远OA-ajax.do任意文件上传漏洞复现到EXP编写
-
前言最近网上爆出致远OAajax.do登录绕过和任意文件上传漏洞,影响部分旧版致远OA版本(致远OAV8.0,致远OAV7.1、V7.1SP1,致远OAV7.0、V7.0SP1、V7.0SP2...
- 一周热门
-
-
一文读懂关于MySQL Datetime字段允许插入0000-00-00无效日期
-
MySQL数据库关于表的一系列操作 mysql 表操作
-
新版腾讯QQ更新Windows 9.9.7、Mac 6.9.25、Linux 3.2.5版本
-
IDC机房服务器托管可提供的服务
-
一文看懂mysql时间函数now()、current_timestamp() 和sysdate()
-
一款全能的看图软件,速度快、功能强、免费用
-
Boston Dynamics Founder to Attend the 2024 T-EDGE Conference
-
MySQL DATE 函数之 NOW() mysql的now函数
-
每天一个入坑小技巧:MySql和oracle语法区别(今日追加)
-
Serv-u 提权
-
- 最近发表
- 标签列表
-
- mysql 时间索引 (31)
- mydisktest_v298 (34)
- document.appendchild (35)
- 头像打包下载 (61)
- acmecadconverter_8.52绿色版 (39)
- oracle timestamp比较大小 (28)
- word文档批量处理大师破解版 (36)
- server2016安装密钥 (33)
- mysql 昨天的日期 (37)
- 加密与解密第四版pdf (30)
- jemeter官网 (31)
- parsevideo (33)
- 个人网站源码 (37)
- exe4j_java_home (30)
- centos7.4下载 (33)
- xlsx.full.min.js下载 (32)
- mysql 查询今天的数据 (34)
- intouch2014r2sp1永久授权 (36)
- 先锋影音源资2019 (35)
- usb2.0-serial驱动下载 (30)
- vs2010官网 (31)
- python核心编程第四版pdf (32)
- jdk1.8.0_191下载 (33)
- layer icon (32)
- axure9注册码 (33)