Flink 结合kafka 实现端到端的一致性原理

Kafka 事务实现原理

Flink checkpoint 结合kafka 实现端到端的一致性

CASE 分析

• 1.checkpoint 不成功情况会发生啥？
  checkpoint 不成功，事务就不会提交，如果checkpoint 一直不成功，任务重启或失败，则会终止事务。从整个流程上看是保持了端到端的一致性。
• 2.checkpoint 成功，事务提交成功
  则checkpoint 保存的中间状态和事务提交的数据保存一致，从整个流程上看是保持了端到端的一致性。
• 3.checkpoint 成功，事务提交不成功
  事务会继续提交，如果事务一直不成功，相当于这个事务最终会终止事务，从客户端来看，则是丢失数据。从整个流程上看没有证了端到端的一致性

总结

从上面来看，要想保证端到端一致性，flink checkpoint和事务要同时成功才可以。