En
文档

Dolphin Scheduler 1.2元数据文档

表概览

表名 表信息
t_ds_access_token 访问ds后端的token
t_ds_alert 告警信息
t_ds_alertgroup 告警组
t_ds_command 执行命令
t_ds_datasource 数据源
t_ds_error_command 错误命令
t_ds_process_definition 流程定义
t_ds_process_instance 流程实例
t_ds_project 项目
t_ds_queue 队列
t_ds_relation_datasource_user 用户关联数据源
t_ds_relation_process_instance 子流程
t_ds_relation_project_user 用户关联项目
t_ds_relation_resources_user 用户关联资源
t_ds_relation_udfs_user 用户关联UDF函数
t_ds_relation_user_alertgroup 用户关联告警组
t_ds_resources 资源文件
t_ds_schedules 流程定时调度
t_ds_session 用户登录的session
t_ds_task_instance 任务实例
t_ds_tenant 租户
t_ds_udfs UDF资源
t_ds_user 用户
t_ds_version ds版本信息
t_ds_worker_group worker分组

用户 队列 数据源

image.png

  • 一个租户下可以有多个用户
  • t_ds_user中的queue字段存储的是队列表中的queue_name信息,t_ds_tenant下存的是queue_id,在流程定义执行过程中,用户队列优先级最高,用户队列为空则采用租户队列
  • t_ds_datasource表中的user_id字段表示创建该数据源的用户,t_ds_relation_datasource_user中的user_id表示,对数据源有权限的用户

项目 资源 告警

image.png

  • 一个用户可以有多个项目,用户项目授权通过t_ds_relation_project_user表完成project_id和user_id的关系绑定
  • t_ds_projcet表中的user_id表示创建该项目的用户,t_ds_relation_project_user表中的user_id表示对项目有权限的用户
  • t_ds_resources表中的user_id表示创建该资源的用户,t_ds_relation_resources_user中的user_id表示对资源有权限的用户
  • t_ds_udfs表中的user_id表示创建该UDF的用户,t_ds_relation_udfs_user表中的user_id表示对UDF有权限的用户

命令 流程 任务

image.png
image.png

  • 一个项目有多个流程定义,一个流程定义可以生成多个流程实例,一个流程实例可以生成多个任务实例
  • t_ds_schedulers表存放流程定义的定时调度信息
  • t_ds_relation_process_instance表存放的数据用于处理流程定义中含有子流程的情况,parent_process_instance_id表示含有子流程的主流程实例id,process_instance_id表示子流程实例的id,parent_task_instance_id表示子流程节点的任务实例id,流程实例表和任务实例表分别对应t_ds_process_instance表和t_ds_task_instance表

核心表Schema

t_ds_process_definition

字段 类型 注释
id int 主键
name varchar 流程定义名称
version int 流程定义版本
release_state tinyint 流程定义的发布状态:0 未上线  1已上线
project_id int 项目id
user_id int 流程定义所属用户id
process_definition_json longtext 流程定义json串
description text 流程定义描述
global_params text 全局参数
flag tinyint 流程是否可用:0 不可用,1 可用
locations text 节点坐标信息
connects text 节点连线信息
receivers text 收件人
receivers_cc text 抄送人
create_time datetime 创建时间
timeout int 超时时间
tenant_id int 租户id
update_time datetime 更新时间

t_ds_process_instance

字段 类型 注释
id int 主键
name varchar 流程实例名称
process_definition_id int 流程定义id
state tinyint 流程实例状态:0 提交成功,1 正在运行,2 准备暂停,3 暂停,4 准备停止,5 停止,6 失败,7 成功,8 需要容错,9 kill,10 等待线程,11 等待依赖完成
recovery tinyint 流程实例容错标识:0 正常,1 需要被容错重启
start_time datetime 流程实例开始时间
end_time datetime 流程实例结束时间
run_times int 流程实例运行次数
host varchar 流程实例所在的机器
command_type tinyint 命令类型:0 启动工作流,1 从当前节点开始执行,2 恢复被容错的工作流,3 恢复暂停流程,4 从失败节点开始执行,5 补数,6 调度,7 重跑,8 暂停,9 停止,10 恢复等待线程
command_param text 命令的参数(json格式)
task_depend_type tinyint 节点依赖类型:0 当前节点,1 向前执行,2 向后执行
max_try_times tinyint 最大重试次数
failure_strategy tinyint 失败策略 0 失败后结束,1 失败后继续
warning_type tinyint 告警类型:0 不发,1 流程成功发,2 流程失败发,3 成功失败都发
warning_group_id int 告警组id
schedule_time datetime 预期运行时间
command_start_time datetime 开始命令时间
global_params text 全局参数(固化流程定义的参数)
process_instance_json longtext 流程实例json(copy的流程定义的json)
flag tinyint 是否可用,1 可用,0不可用
update_time timestamp 更新时间
is_sub_process int 是否是子工作流 1 是,0 不是
executor_id int 命令执行用户
locations text 节点坐标信息
connects text 节点连线信息
history_cmd text 历史命令,记录所有对流程实例的操作
dependence_schedule_times text 依赖节点的预估时间
process_instance_priority int 流程实例优先级:0 Highest,1 High,2 Medium,3 Low,4 Lowest
worker_group_id int 任务指定运行的worker分组
timeout int 超时时间
tenant_id int 租户id

t_ds_task_instance

字段 类型 注释
id int 主键
name varchar 任务名称
task_type varchar 任务类型
process_definition_id int 流程定义id
process_instance_id int 流程实例id
task_json longtext 任务节点json
state tinyint 任务实例状态:0 提交成功,1 正在运行,2 准备暂停,3 暂停,4 准备停止,5 停止,6 失败,7 成功,8 需要容错,9 kill,10 等待线程,11 等待依赖完成
submit_time datetime 任务提交时间
start_time datetime 任务开始时间
end_time datetime 任务结束时间
host varchar 执行任务的机器
execute_path varchar 任务执行路径
log_path varchar 任务日志路径
alert_flag tinyint 是否告警
retry_times int 重试次数
pid int 进程pid
app_link varchar yarn app id
flag tinyint 是否可用:0 不可用,1 可用
retry_interval int 重试间隔
max_retry_times int 最大重试次数
task_instance_priority int 任务实例优先级:0 Highest,1 High,2 Medium,3 Low,4 Lowest
worker_group_id int 任务指定运行的worker分组

t_ds_schedules

字段 类型 注释
id int 主键
process_definition_id int 流程定义id
start_time datetime 调度开始时间
end_time datetime 调度结束时间
crontab varchar crontab 表达式
failure_strategy tinyint 失败策略: 0 结束,1 继续
user_id int 用户id
release_state tinyint 状态:0 未上线,1 上线
warning_type tinyint 告警类型:0 不发,1 流程成功发,2 流程失败发,3 成功失败都发
warning_group_id int 告警组id
process_instance_priority int 流程实例优先级:0 Highest,1 High,2 Medium,3 Low,4 Lowest
worker_group_id int 任务指定运行的worker分组
create_time datetime 创建时间
update_time datetime 更新时间

t_ds_command

字段 类型 注释
id int 主键
command_type tinyint 命令类型:0 启动工作流,1 从当前节点开始执行,2 恢复被容错的工作流,3 恢复暂停流程,4 从失败节点开始执行,5 补数,6 调度,7 重跑,8 暂停,9 停止,10 恢复等待线程
process_definition_id int 流程定义id
command_param text 命令的参数(json格式)
task_depend_type tinyint 节点依赖类型:0 当前节点,1 向前执行,2 向后执行
failure_strategy tinyint 失败策略:0结束,1继续
warning_type tinyint 告警类型:0 不发,1 流程成功发,2 流程失败发,3 成功失败都发
warning_group_id int 告警组
schedule_time datetime 预期运行时间
start_time datetime 开始时间
executor_id int 执行用户id
dependence varchar 依赖字段
update_time datetime 更新时间
process_instance_priority int 流程实例优先级:0 Highest,1 High,2 Medium,3 Low,4 Lowest
worker_group_id int 任务指定运行的worker分组