20、多线程开发消费者实例

你好,我是胡夕。今天我们来聊聊Kafka Java Consumer端多线程消费的实现方案。 目前,计算机的硬件条件已经大大改善,即使是在普通的笔记本电脑上,多核都已经是标配了,更不用说专业的服务器了。如果跑在强劲服务器机器上的应用程序依然是单线程架...

Kafka核心技术与实战

21、消费者是如何管理TCP连接的?

你好,我是胡夕。今天我要和你分享的主题是:Kafka的Java消费者是如何管理TCP连接的。 在专栏[第13讲]中,我们专门聊过“Java生产者是如何管理TCP连接资源的”这个话题,你应该还有印象吧?今天算是它的姊妹篇,我们一起来研究下Kafka的J...

Kafka核心技术与实战

22、消费者组消费进度监控怎么实现?

你好,我是胡夕。今天我要跟你分享的主题是:消费者组消费进度监控如何实现。 对于Kafka消费者来说,最重要的事情就是监控它们的消费进度了,或者说是监控它们消费的滞后程度。这个滞后程度有个专门的名称:消费者Lag或Consumer Lag。 所谓滞后程...

Kafka核心技术与实战

23、Kafka副本机制详解

你好,我是胡夕。今天我要和你分享的主题是:Apache Kafka的副本机制。 所谓的副本机制(Replication),也可以称之为备份机制,通常是指分布式系统在多台网络互联的机器上保存有相同的数据拷贝。副本机制有什么好处呢? 提供数据冗余。即使...

Kafka核心技术与实战

24、请求是怎么被处理的?

你好,我是胡夕。今天我要和你分享的主题是:Kafka请求是怎么被处理的。 无论是Kafka客户端还是Broker端,它们之间的交互都是通过“请求/响应”的方式完成的。比如,客户端会通过网络发送消息生产请求给Broker,而Broker处理完...

Kafka核心技术与实战

25、消费者组重平衡全流程解析

你好,我是胡夕。今天我要和你分享的主题是:消费者组重平衡全流程解析。 之前我们聊到过消费者组的重平衡流程,它的作用是让组内所有的消费者实例就消费哪些主题分区达成一致。重平衡需要借助Kafka Broker端的Coordinator组件,在Coordi...

Kafka核心技术与实战

26、不能错过的Kafka控制器

你好,我是胡夕。今天我要和你分享的主题是:Kafka中的控制器组件。 控制器组件(Controller),是Apache Kafka的核心组件。它的主要作用是在Apache ZooKeeper的帮助下管理和协调整个Kafka集群。集群中任意一台Bro...

Kafka核心技术与实战

27、高水位和Leader Epoch的讨论

你好,我是胡夕。今天我要和你分享的主题是:Kafka中的高水位和Leader Epoch机制。 你可能听说过高水位(High Watermark),但不一定耳闻过Leader Epoch。前者是Kafka中非常重要的概念,而后者是社区在0.11版本中...

Kafka核心技术与实战

28、主题管理知多少?

你好,我是胡夕。今天我想和你讨论一下Kafka中的主题管理,包括日常的主题管理、特殊主题的管理与运维以及常见的主题错误处理。 主题日常管理所谓的日常管理,无非就是主题的增删改查。你可能会觉得,这有什么好讨论的,官网上不都有命令吗?这部分内容的确比较简...

Kafka核心技术与实战

29、Kafka动态配置了解下?

你好,我是胡夕。今天我要和你讨论的主题是:Kafka的动态Broker参数配置。 什么是动态Broker参数配置?在开始今天的分享之前,我们先来复习一下设置Kafka参数,特别是Broker端参数的方法。 在Kafka安装目录的config路径下,有...

Kafka核心技术与实战