tongchenkeji 发表于:2023-4-27 8:23:420次点击 已关注取消关注 关注 私信 adb是否支持通过Logstash插件使用INSERT ON DUPLICATE KEY UPDAT[阿里云云原生数据仓库] 暂停朗读为您朗读 adb是否支持通过Logstash插件使用INSERT ON DUPLICATE KEY UPDATE语句批量插入数据? 「点点赞赏,手留余香」 赞赏 还没有人赞赏,快来当第一个赞赏的人吧! 海报 云原生数据仓库AnalyticDB# 云原生数据仓库 AnalyticDB PostgreSQL版825
xin在这AM 2023-11-27 22:34:38 1 支持,参考文档:https://help.aliyun.com/document_detail/194539.html?spm=a2c4g.123585.0.i3,此回答整理自钉群“云数据仓库ADB-开发者群”
一位隐者AM 2023-11-27 22:34:38 2 是的,阿里云ADB支持使用Logstash的jdbc插件进行批量数据插入,同时也支持使用INSERT ON DUPLICATE KEY UPDATE语句来更新重复的记录。 关于使用Logstash插件进行数据操作,具体可以参考阿里云文档中的以下教程: 使用JDBC插件将数据导入MaxCompute/AnalyticDB数据仓库 另外,在jdbc插件的输出配置中,可以使用jdbc_streaming filter来应用SQL语句进行数据操作。例如,使用以下配置可以将数据批量写入到adb表中,并在存在重复记录时最新的记录覆盖旧记录: output { jdbc { # 数据库连接参数 jdbc_connection_string => "jdbc:xxx" jdbc_driver_class => "com.mysql.jdbc.Driver" jdbc_user => "xxx" jdbc_password => "xxx" # 执行INSERT ON DUPLICATE KEY UPDATE语句 statement => "INSERT INTO table_name (id, name, age) VALUES (?, ?, ?) ON DUPLICATE KEY UPDATE name=VALUES(name), age=VALUES(age)" # 设置上传数据的批次大小 batch_size => 1000 }}
支持,参考文档:https://help.aliyun.com/document_detail/194539.html?spm=a2c4g.123585.0.i3,此回答整理自钉群“云数据仓库ADB-开发者群”
是的,阿里云ADB支持使用Logstash的jdbc插件进行批量数据插入,同时也支持使用INSERT ON DUPLICATE KEY UPDATE语句来更新重复的记录。
关于使用Logstash插件进行数据操作,具体可以参考阿里云文档中的以下教程:
另外,在jdbc插件的输出配置中,可以使用jdbc_streaming filter来应用SQL语句进行数据操作。例如,使用以下配置可以将数据批量写入到adb表中,并在存在重复记录时最新的记录覆盖旧记录: