19 Star 174 Fork 43

GVP袋鼠云 / Taier

Create your Gitee Account
Explore and code with more than 8 million developers,Free private repositories !:)
Sign up
Clone or Download
Cancel
Notice: Creating folder will generate an empty file .keep, because not support in Git
Loading...
README.md
Taier Logo

Taier

A Distributed dispatching system

Taier 名字由来中国古代十大名剑之一 —— 太阿

Taier 是一个分布式可视化的DAG任务调度系统。旨在降低ETL开发成本、提高大数据平台稳定性,大数据开发人员可以在 Taier 直接进行业务逻辑的开发,而不用关心任务错综复杂的依赖关系与底层的大数据平台的架构实现,将工作的重心更多地聚焦在业务之中。

Taier 脱胎于袋鼠云 - 数栈 (一站式大数据开发平台),技术实现来源于数栈分布式调度引擎DAGScheduleX

DAGScheduleX数栈 产品的重要基础设施之一,负责大数据平台所有任务实例的调度运行。

功能特征

稳定性

  • 单点故障:去中心化的分布式模式
  • 高可用方式:Zookeeper
  • 过载处理:分布式节点 + 两级存储策略 + 队列机制。每个节点都可以处理任务调度与提交;任务多时会优先缓存在内存队列,超出可配置的队列最大数量值后会全部落数据库;任务处理以队列方式消费,队列异步从数据库获取可执行实例
  • 实战检验:得到数百家企业客户生产环境实战检验

易用性

  • 支持大数据作业SparkFlink的调度,
  • 支持众多的任务类型,目前支持 Spark SQL、数据同步
  后续将开源::
  SparkMR、PySpark、FlinkMR、Python、Shell、Jupyter、Tersorflow、Pytorch、HadoopMR、Kylin、Odps、
  SQL类任务(MySQL、PostgreSQL、Hive、Impala、Oracle、SQLServer、TiDB、greenplum、inceptor、kingbase、presto)
  • 可视化工作流配置:支持封装工作流、支持单任务运行,不必封装工作流、支持拖拽模式绘制DAG
  • DAG监控界面:运维中心、支持集群资源查看,了解当前集群资源的剩余情况、支持对调度队列中的任务批量停止、任务状态、任务类型、重试次数、任务运行机器、可视化变量等关键信息一目了然
  • 调度时间配置:可视化配置
  • 多集群连接:支持一套调度系统连接多套Hadoop集群

多版本引擎

  • 支持SparkFlink等引擎的多个版本共存

Kerberos支持

  • SparkFlink

系统参数

  • 丰富,支持3种时间基准,且可以灵活设置输出格式

扩展性

  • 设计之处就考虑分布式模式,目前支持整体 Taier 水平扩容方式;
  • 调度能力随集群线性增长;

主要界面

add-source cluster web sync maintenance

快速开始

请参考官方文档: 快速上手

问题反馈

如果在使用上有遇到bug或者优化点,强烈建议你提issue,我们将及时修复

贡献代码

参考CONTRIBUTING.

感谢所有向 Taier 贡献的朋友

未来规划

  • 任务类型:支持SparkMR、PySpark、FlinkMR、Python、Shell、Jupyter、Tersorflow、Pytorch、 HadoopMR、Kylin、Odps、SQL类任务(MySQL、PostgreSQL、Hive、Impala、Oracle、SQLServer、TiDB、greenplum、inceptor、kingbase、presto)
  • 调度方式:同时支持Yarn/K8s
  • 计算引擎:同时支持Spark-2.1.x/2.4.x、Flink-1.10/1.12(与Flink后续版本)
  • 部署方式:同时支持Scheduler/Worker整合与分离部署
  • 功能支持:支持交易日历、事件驱动
  • 外部系统对接:支持Taier系统对接外部调度系统(AZKBAN、Control-M、DS调度)

License

Taier is under the Apache 2.0 license. See the LICENSE file for details.

技术交流

我们使用钉钉 沟通交流,可以搜索群号[30537511]或者扫描下面的二维码进入钉钉群

Repository Comments ( 7 )

Sign in to post a comment

About

Taier 名字由来中国古代十大名剑之一 —— 太阿。 Taier 是一个分布式可视化的DAG任务调度系统。旨在降低ETL开发成本、提高大数据平台稳定性,大数据开发人员可以在 Taier 直接进行业务逻辑的开发,而不用关心任务错综复杂的依赖关系与底层的大数据平台的架构实现,将工作的重心更多地聚焦在业务之中。 expand collapse
Cancel

Releases

No release

Taier

Contributors

All

Activities

Load More
can not load any more
Java
1
https://gitee.com/dtstack_dev_0/taier.git
git@gitee.com:dtstack_dev_0/taier.git
dtstack_dev_0
taier
Taier
master

Search