tongchenkeji 发表于:2023-12-13 18:05:500次点击 已关注取消关注 关注 私信 Flink在同一个任务中,创建了多个mysql cdc源表,这些源表会复用同一个连接池嘛?[阿里云] 暂停朗读为您朗读 Flink在同一个任务中,创建了多个mysql cdc源表,这些源表会复用同一个连接池嘛? 「点点赞赏,手留余香」 赞赏 还没有人赞赏,快来当第一个赞赏的人吧! 海报 阿里云# MySQL1179# 云数据库 RDS MySQL 版1517# 关系型数据库2577# 实时计算 Flink版3179# 流计算2236
Star时光AM 2023-12-21 7:37:43 1 在Apache Flink中,当您在一个任务中创建了多个MySQL CDC源表时,通常情况下,这些源表会共享同一个数据库连接池。这是因为Flink的CDC Connectors(如MySQL CDC Connector)通常会为每个任务配置一个单独的数据库连接池。 默认情况下,Flink SQL CDC Connectors使用HikariCP作为其JDBC连接池实现。HikariCP是一个高性能的JDBC连接池库,它允许您在应用程序中设置连接池参数以优化性能和资源利用。 在实践中,如果您的任务中有多个MySQL CDC源表,它们将共享相同的连接池。这可以提高资源利用率并减少数据库服务器上的开销。然而,共享连接池也意味着不同的源表可能会竞争数据库连接,这可能会影响性能。 为了优化性能,您可以考虑以下策略: 调整连接池大小:根据您的系统资源和数据吞吐量调整连接池的最小和最大连接数。 使用多任务:如果您发现单个任务中的多个源表之间的并发需求很高,可以考虑将它们拆分为多个独立的任务,每个任务只包含一部分源表。 分区和负载均衡:通过分区和负载均衡策略来平衡不同源表的数据处理需求。
圆不溜秋的小猫猫AM 2023-12-21 7:37:43 2 是,参考https://help.aliyun.com/zh/flink/developer-reference/mysql-connector?spm=a2c4g.11186623.0.0.77f470a4PAN1YF#section-mxk-9ip-5kv 此回答整理自钉群“实时计算Flink产品交流群”
在Apache Flink中,当您在一个任务中创建了多个MySQL CDC源表时,通常情况下,这些源表会共享同一个数据库连接池。这是因为Flink的CDC Connectors(如MySQL CDC Connector)通常会为每个任务配置一个单独的数据库连接池。
默认情况下,Flink SQL CDC Connectors使用HikariCP作为其JDBC连接池实现。HikariCP是一个高性能的JDBC连接池库,它允许您在应用程序中设置连接池参数以优化性能和资源利用。
在实践中,如果您的任务中有多个MySQL CDC源表,它们将共享相同的连接池。这可以提高资源利用率并减少数据库服务器上的开销。然而,共享连接池也意味着不同的源表可能会竞争数据库连接,这可能会影响性能。
为了优化性能,您可以考虑以下策略:
是,参考https://help.aliyun.com/zh/flink/developer-reference/mysql-connector?spm=a2c4g.11186623.0.0.77f470a4PAN1YF#section-mxk-9ip-5kv 此回答整理自钉群“实时计算Flink产品交流群”