Chunjun纯钧(Flinkx)是一款稳定、易用、高效、批流一体的数据集成框架,目前基于实时计算引擎Flink实现多种异构数据源之间的数据同步与计算,支持JSON模版配置任务,兼容FlinkSQL语法。本文对chunjun同步任务的配置文件进行详细的介绍和总结。
配置文件结构详解
一个完整的ChunJun
任务脚本配置包含content
,setting
两个部分。content
用于配置任务的输入源与输出源,其中包含reader
,writer
。而setting
则配置任务整体的环境设定,其中包含speed
,errorLimit
,metricPluginConf
,restore
,log
,dirty。
总体结构如下所示:
{
"job": {
"content": [
{
"reader": {
},
"writer": {
}
}
],
"setting": {
"speed": {
},
"errorLimit": {
},
"metricPluginConf": {
},
"restore": {
},
"log": {
},
"dirty": {
}
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
- 17
- 18
- 19
- 20
- 21
- 22
- 23
- 24
- 25
- 26
张飞的猪大数据分享
大数据等编程技术、资料分享。
微信公众号
评论记录:
回复评论: