ETL 流程求推荐

13次阅读

共计 303 个字符,预计需要花费 1 分钟才能阅读完成。

目前公司使用前置机部署的 kettle 抽取用户数据为标准模型格式,经过业务系统校验后,将校验成功的数据转存入数仓中。
目前只用了 kettle,但是部署的前置机很多,每个库每个项目都需要部署一台前置机进行采集,而且无法监控采集结果,服务停了都不知道,导致数据断层严重。
校验系统需要配置字段校验规则。

目前主流 ETL 流程大概什么样子,有相应工具推荐吗,对多节点可能没有要求,这块不太清楚具体业务逻辑。有没有可以自定义校验规则或转换规则的开源系统。

有相关运维经验的麻烦给大概说说,尽量开源的,不尽感激!

目前听过的 flinkCDC,airflow+dbt,海豚调度,kettle 等。主语言 java,哪个更适合以上业务呢。

正文完
 0