在数据传输DTS中,消息一直在重复消费,这是我查看到的异常信息,想知道是什么原因导致的?[阿里云]

在数据传输DTS中,我们服务现在出现了问题,消息一直在重复消费,这是我查看到的异常信息。位点一直停在11:41,但是我们的程序还在一直消费,
并且发现有重复消费的情况。想知道是什么原因导致的?

以下为热心网友提供的参考意见

数据传输服务DTS中消息重复消费的问题可能有多种原因。一种可能的原因是消费端SDK没有正确处理消费完的消息,没有及时向服务端发送ACK确认信息。当服务端没有收到ACK时,它会认为消息未被成功消费,因此会再次推送相同的消息。这就导致了消息的重复消费。

另一种可能的原因是订阅任务的消费组在数据订阅到期后并未及时续费或删除,导致消费组保留的时间超过了7天。如果在此期间实例被释放,那么对应的消费组也会被删除,可能会导致消息重复消费。

此外,还需要检查Demo版本是否使用正确,因为不同的源库类型和数据格式需要使用不同的Demo版本。同时,也需要查看订阅任务是否有数据写入Kafka,可以在控制台的消费组管理中查看未消费的消息数是否大于零。

以下为热心网友提供的参考意见

您试下重建消费组指定位点重新消费看下。您使用这个工具包先排查下;https://help.aliyun.com/zh/dts/user-guide/troubleshoot-issues-in-change-tracking-tasks?spm=a2c4g.11186623.0.i3 如果创建了多个消费组,会重复消费,否则不会;订阅client有重启可能也会导致重复消费。此回答整理自钉群“DTS客户交流群-2”

「点点赞赏,手留余香」

    还没有人赞赏,快来当第一个赞赏的人吧!
=====这是一个广告位,招租中,联系qq 78315851====