27、高水位和Leader Epoch的讨论

你好,我是胡夕。今天我要和你分享的主题是:Kafka中的高水位和Leader Epoch机制。 你可能听说过高水位(High Watermark),但不一定耳闻过Leader Epoch。前者是Kafka中非常重要的概念,而后者是社区在0.11版本中...

Kafka核心技术与实战

26、不能错过的Kafka控制器

你好,我是胡夕。今天我要和你分享的主题是:Kafka中的控制器组件。 控制器组件(Controller),是Apache Kafka的核心组件。它的主要作用是在Apache ZooKeeper的帮助下管理和协调整个Kafka集群。集群中任意一台Bro...

Kafka核心技术与实战

25、消费者组重平衡全流程解析

你好,我是胡夕。今天我要和你分享的主题是:消费者组重平衡全流程解析。 之前我们聊到过消费者组的重平衡流程,它的作用是让组内所有的消费者实例就消费哪些主题分区达成一致。重平衡需要借助Kafka Broker端的Coordinator组件,在Coordi...

Kafka核心技术与实战

24、请求是怎么被处理的?

你好,我是胡夕。今天我要和你分享的主题是:Kafka请求是怎么被处理的。 无论是Kafka客户端还是Broker端,它们之间的交互都是通过“请求/响应”的方式完成的。比如,客户端会通过网络发送消息生产请求给Broker,而Broker处理完...

Kafka核心技术与实战

23、Kafka副本机制详解

你好,我是胡夕。今天我要和你分享的主题是:Apache Kafka的副本机制。 所谓的副本机制(Replication),也可以称之为备份机制,通常是指分布式系统在多台网络互联的机器上保存有相同的数据拷贝。副本机制有什么好处呢? 提供数据冗余。即使...

Kafka核心技术与实战

22、消费者组消费进度监控怎么实现?

你好,我是胡夕。今天我要跟你分享的主题是:消费者组消费进度监控如何实现。 对于Kafka消费者来说,最重要的事情就是监控它们的消费进度了,或者说是监控它们消费的滞后程度。这个滞后程度有个专门的名称:消费者Lag或Consumer Lag。 所谓滞后程...

Kafka核心技术与实战