跳到主要内容
版本:v4.9

配置 Doris 数据节点表映射

配置 Doris 节点表映射是在界面中建立数据源表层级结构与数据目的地表层级结构的映射关系,建立表层级结构映射关系后,才能对其中具体数据内容、数据字段映射进行配置,以完成映射配置。

关于此功能​

Doris 作为目的地节点时,Doris 支持向 OLAP 表写入数据。支持在链路上配置不同的表数据模型,不同的表模型功能支持度略有差异。
在任务执行过程中,DataPipeline 通过 JDBC Driver 或者调用 Stream Load 接口将源端数据导入到 Doris 中。

操作步骤​

手动配置映射​

  1. 点击表映射按钮,切换至表映射 TAB
  2. 点击数据目的地按钮,切换至需要配置的 Doris 目的地
  3. 点击选择同步列表,选择需要同步的数据表
  4. 选择已有数据表或创建 OLAP 表
  5. 配置“写入设置”
  6. 保存,完成表映射配置

写入设置​

  • 点击写入配置,进入写入配置弹窗,对于创建 OLAP 表和选择已有表,配置内容不同
    • 创建 OLAP 表
      • 表配置
        • 分区分桶配置:输入相关 SQL 语句
        • 表属性参数:是建表时的 properties 参数配置,可设置该表数据的初始存储介质 (storage_medium)、存储 降冷时间 (storage_cooldown_time) 、副本数 (replication_num)、动态分区等。具体配置项参见 Doris 官方文档。
    • 选择已有表

映射设置(批量映射)​

映射设置中,支持对数据映射进行自动映射配置,可以进行匹配已有表、创建新表、匹配优先,当不执行映射设置时可以选择不匹配表。

  • 表相关设置:
    • 创建新表:支持批量配置表名称创建规则、表数据模型、表属性参数;也支持批量配置是否开启事务
    • 匹配已有表:支持配置表名称匹配规则、匹配时是否忽略大小写、是否开启事务
    • 匹配优先
    • 不匹配
  • 字段相关设置:支持配置字段名称新建规则、字段名称够匹配规则、新增字段创建规则、匹配过程中是否忽略大小写。
    • 当表相关设置中选择创建新表时,仅字段名称新建规则生效。
    • 当表相关设置中选择匹配已有表时,字段名称匹配规则、新增字段创建规则、匹配过程中是否忽略大小写生效
  • 高级清洗设置:支持批量为目的地表添加高级清洗