adb是否支持通过Logstash插件使用INSERT ON DUPLICATE KEY UPDAT[阿里云云原生数据仓库]

adb是否支持通过Logstash插件使用INSERT ON DUPLICATE KEY UPDATE语句批量插入数据?

「点点赞赏,手留余香」

    还没有人赞赏,快来当第一个赞赏的人吧!
=====这是一个广告位,招租中,联系qq 78315851====
1 条回复 A 作者 M 管理员
  1. 支持,参考文档:https://help.aliyun.com/document_detail/194539.html?spm=a2c4g.123585.0.i3,此回答整理自钉群“云数据仓库ADB-开发者群”

  2. 是的,阿里云ADB支持使用Logstash的jdbc插件进行批量数据插入,同时也支持使用INSERT ON DUPLICATE KEY UPDATE语句来更新重复的记录。

    关于使用Logstash插件进行数据操作,具体可以参考阿里云文档中的以下教程:

    • 使用JDBC插件将数据导入MaxCompute/AnalyticDB数据仓库

    另外,在jdbc插件的输出配置中,可以使用jdbc_streaming filter来应用SQL语句进行数据操作。例如,使用以下配置可以将数据批量写入到adb表中,并在存在重复记录时最新的记录覆盖旧记录:

    output {  jdbc {    # 数据库连接参数    jdbc_connection_string => "jdbc:xxx"    jdbc_driver_class => "com.mysql.jdbc.Driver"    jdbc_user => "xxx"    jdbc_password => "xxx"    # 执行INSERT ON DUPLICATE KEY UPDATE语句    statement => "INSERT INTO table_name (id, name, age) VALUES (?, ?, ?) ON DUPLICATE KEY UPDATE name=VALUES(name), age=VALUES(age)"    # 设置上传数据的批次大小    batch_size => 1000  }}