设置本地Apache Kafka,与Docker强强联动
创始人
2025-07-12 14:50:43
0

一、引言

许多公司拥有大量的数据,需要一种方法来简化和转储所有传入数据到不同的位置,这就是所谓的Kafka Sink。

在生产环境中,不建议自己托管Kafka,而是建议支付云服务提供商在AWS上进行托管,这就是Amazon Managed Streaming for Apache Kafka(MSK)。然而,Kafka在本地测试却很不方便。因此,在将其部署到测试或生产环境之前,可以选择使用Docker在本地快速启动一个Apache Kafka来开发所需内容。这样可以更快地进行开发并验证代码,不用担心环境问题。

二、使用Docker和Docker Compose快速启动Kafka

1.配置Docker Compose文件

首先,使用Docker和Docker Compose创建运行单节点Kafka的设置。以下是一个示例的Docker Compose文件:

version: "2"
services:
  zookeeper:
    image: confluentinc/cp-zookeeper:latest
    environment:
      ZOOKEEPER_CLIENT_PORT: 2181
      ZOOKEEPER_TICK_TIME: 2000
    ports:
      - 22181:2181

  kafka:
    image: confluentinc/cp-kafka:latest
    depends_on:
      - zookeeper
    ports:
      - 29092:29092
    environment:
      KAFKA_BROKER_ID: 1
      KAFKA_ZOOKEEPER_CONNECT: zookeeper:2181
      KAFKA_ADVERTISED_LISTENERS: PLAINTEXT://kafka:9092,PLAINTEXT_HOST://localhost:29092
      KAFKA_LISTENER_SECURITY_PROTOCOL_MAP: PLAINTEXT:PLAINTEXT,PLAINTEXT_HOST:PLAINTEXT
      KAFKA_INTER_BROKER_LISTENER_NAME: PLAINTEXT
      KAFKA_OFFSETS_TOPIC_REPLICATION_FACTOR: 1

2. 检查Kafka和Zookeeper设置的状态

完成之后,可以使用以下两个命令检查Kafka和Zookeeper设置的状态。

nc -z localhost 22181
nc -z localhost 29092

如果一切运行顺利,这两个测试都应该返回成功。

三、使用Offset Explorer 2查看Kafka

1. 下载Offset Explorer 2

现在,可以下载Kafka工具(Offset Explorer 2,下载地址:https://kafkatool.com/download.html),它是一个用于Kafka的UI工具,支持以UI方式查看Kafka,不用记住命令行。

2. 配置Offset Explorer 2

下载了该工具之后,需要进行配置设置,在配置设置中,进入高级选项卡,并将localhost:29092作为引导网关,然后就可以开始使用了!

相关内容

热门资讯

PHP新手之PHP入门 PHP是一种易于学习和使用的服务器端脚本语言。只需要很少的编程知识你就能使用PHP建立一个真正交互的...
网络中立的未来 网络中立性是什... 《牛津词典》中对“网络中立”的解释是“电信运营商应秉持的一种原则,即不考虑来源地提供所有内容和应用的...
各种千兆交换机的数据接口类型详... 千兆交换机有很多值得学习的地方,这里我们主要介绍各种千兆交换机的数据接口类型,作为局域网的主要连接设...
什么是大数据安全 什么是大数据... 在《为什么需要大数据安全分析》一文中,我们已经阐述了一个重要观点,即:安全要素信息呈现出大数据的特征...
全面诠释网络负载均衡 负载均衡的出现大大缓解了服务器的压力,更是有效的利用了资源,提高了效率。那么我们现在来说一下网络负载...
粉嫩如何诠释霸道 东芝M805... “霸道粉”是个什么玩意东芝M805拿过来的时候,笔者扑哧笑了,不是笑这款笔记本,而是笑这款产品的颜色...
如何允许远程连接到MySQL数... [[277004]]【51CTO.com快译】默认情况下,MySQL服务器仅侦听来自localhos...
30分钟搞定iOS自定义相机 最近公司的项目中用到了相机,由于不用系统的相机,UI给的相机切图,必须自定义才可以。就花时间简单研究...
如何利用交换机和端口设置来管理... 在网络管理中,总是有些人让管理员头疼。下面我们就将介绍一下一个网管员利用交换机以及端口设置等来进行D...
P2P的自白|我不生产内容,我... 现在一提起P2P,人们就会联想到正在被有关部门“围剿”的互联网理财服务。×租宝事件使得劳...