分布式调度框架。

4.9 KiB

Raw Blame History

Dolphin Scheduler Official Website dolphinscheduler.apache.org

设计特点

一个分布式易扩展的可视化 DAG 工作流任务调度系统。致力于解决数据处理流程中错综复杂的依赖关系，使调度系统在数据处理流程中开箱即用。

其主要目标如下：

以 DAG 图的方式将 Task 按照任务的依赖关系关联起来，可实时可视化监控任务的运行状态
支持丰富的任务类型：Shell、MR、Spark、SQL(mysql、postgresql、hive、sparksql)、Python、Sub_Process、Procedure 等
支持工作流定时调度、依赖调度、手动调度、手动暂停/停止/恢复，同时支持失败重试/告警、从指定节点恢复失败、Kill 任务等操作
支持工作流优先级、任务优先级及任务的故障转移及任务超时告警/失败
支持工作流全局参数及节点自定义参数设置
支持资源文件的在线上传/下载，管理等，支持在线文件创建、编辑
支持任务日志在线查看及滚动、在线下载日志等
实现集群 HA，通过 Zookeeper 实现 Master 集群和 Worker 集群去中心化
支持对Master/Worker cpu load，memory，cpu 在线查看
支持工作流运行历史树形/甘特图展示、支持任务状态统计、流程状态统计
支持补数
支持多租户
支持国际化
还有更多等待伙伴们探索

系统部分截图

近期研发计划

DolphinScheduler 的工作计划：研发计划，其中 In Develop 卡片下是正在研发的功能，TODO 卡片是待做事项(包括 feature ideas)

参与贡献

非常欢迎大家来参与贡献，贡献流程请参考： [参与贡献]

快速试用 Docker

请参考官方文档: 快速试用 Docker 部署

快速试用 Kubernetes

请参考官方文档: 快速试用 Kubernetes 部署

如何构建

./mvnw clean install -Prelease

构建不同版本的 Zookeeper 依赖

默认支持 Zookeeper Server 3.8.0。

# 默认 Zookeeper Client 3.8.0
./mvnw clean install -Prelease
# 构建支持 Zookeeper 3.4.6+
./mvnw clean install -Prelease -Dzk-3.4

制品:

dolphinscheduler-dist/target/apache-dolphinscheduler-${latest.release.version}-bin.tar.gz: DolphinScheduler 二进制包
dolphinscheduler-dist/target/apache-dolphinscheduler-${latest.release.version}-src.tar.gz: DolphinScheduler 源代码包

感谢

Dolphin Scheduler 使用了很多优秀的开源项目，比如 google 的 guava、grpc，netty，quartz，以及 apache 的众多开源项目等等，正是由于站在这些开源项目的肩膀上，才有 Dolphin Scheduler 的诞生的可能。对此我们对使用的所有开源软件表示非常的感谢！我们也希望自己不仅是开源的受益者，也能成为开源的贡献者,也希望对开源有同样热情和信念的伙伴加入进来，一起为开源献出一份力！

获得帮助

提交 issue
加入 slack 群并在频道 #troubleshooting 中提问

社区

通过该申请链接加入 slack channel
关注Apache Dolphin Scheduler 的 Twitter 账号获取实时动态

版权

请参考 LICENSE 文件.

4.9 KiB Raw Blame History