当前位置: 首页 > ds >正文

Kafka + Kafka-UI

文章目录

  • 前言
    • 🐳 一、使用纯 Kafka + Kafka-UI (无 Zookeeper)Docker 配置
    • 🚀 启动步骤
    • ✅ 服务启动后地址
    • 🔥 注意事项(使用 Kraft)
    • ✅ NestJS Kafka 连接不变
    • 🧠 额外补充
    • 📦 kafka/README.md 内容:
  • Kafka Kraft 模式部署指南
    • 🐳 使用 Docker-Compose 快速启动
    • 🌐 服务地址
    • 🛠️ 常用运维指令
      • 查看所有容器状态
      • 查看 Kafka UI 日志
      • 查看 Kafka Broker 日志
      • 创建 Topic(进入 Kafka 容器内部执行)
      • 查看 Topic 列表
      • 查看 Topic 消息
    • ⚡ NestJS 配置 Kafka
    • 🚨 注意事项


前言

✅ 使用 不需要 Zookeeper 的 Kafka —— 那就是 Kafka KRaft 模式(KRaft = Kafka Raft Metadata Mode),从 Kafka 2.8+ 起官方支持,3.3+ 开始默认推荐

这样可以:

  • 去掉 zookeeper 依赖
  • 简化部署,性能更高
  • 更符合现在 Kafka 的新一代标准架构

🐳 一、使用纯 Kafka + Kafka-UI (无 Zookeeper)Docker 配置

这里直接给你新版 docker-compose.yml(最新流行写法)👇:

version: '3.8'services:kafka:image: bitnami/kafka:3.6container_name: kafkaports:- '9092:9092'environment:- KAFKA_CFG_NODE_ID=0 - KAFKA_CFG_PROCESS_ROLES=broker,controller- KAFKA_CFG_CONTROLLER_QUORUM_VOTERS=0@kafka:9093- KAFKA_CFG_LISTENERS=PLAINTEXT://:9092,CONTROLLER://:9093- KAFKA_CFG_ADVERTISED_LISTENERS=PLAINTEXT://kafka:9092- KAFKA_CFG_LISTENER_SECURITY_PROTOCOL_MAP=CONTROLLER:PLAINTEXT,PLAINTEXT:PLAINTEXT- KAFKA_CFG_CONTROLLER_LISTENER_NAMES=CONTROLLER- KAFKA_CFG_LOG_DIRS=/bitnami/kafka/data- KAFKA_KRAFT_CLUSTER_ID=替换成base64的uuid- ALLOW_PLAINTEXT_LISTENER=yesvolumes:- kafka_data:/bitnami/kafkakafka-ui:image: provectuslabs/kafka-ui:latestcontainer_name: kafka-uiports:- '8080:8080'environment:- KAFKA_CLUSTERS_0_NAME=kraft-kafka- KAFKA_CLUSTERS_0_BOOTSTRAPSERVERS=kafka:9092- DYNAMIC_CONFIG_ENABLED=truevolumes:kafka_data:

🚀 启动步骤

docker-compose up -d

✅ 服务启动后地址

服务地址说明
Kafka Brokerlocalhost:9092NestJS 直接连
Kafka UIhttp://localhost:8080查看 Topic、消息

🔥 注意事项(使用 Kraft)

说明备注
控制器Kafka 自己用 Raft 协议管理元数据,不再需要 ZooKeeper
单节点开发环境OK,生产建议部署多节点控制器
镜像推荐使用 bitnami/kafka,官方纯净版 Kraft 支持最好

✅ NestJS Kafka 连接不变

new Kafka({clientId: 'seckill-service',brokers: ['localhost:9092'],
});

🧠 额外补充

特性Zookeeper版 KafkaKraft版 Kafka
简单性❌ 复杂✅ 简洁
启动速度
部署节点数量
生产是否推荐使用需要搭建多个 Broker需要搭建多个 Controller Broker

kafka/README.md 运维指令集和最佳实践


📦 kafka/README.md 内容:

Kafka Kraft 模式部署指南

🐳 使用 Docker-Compose 快速启动

cd kafka
docker-compose up -d

✅ 启动以下容器:

  • kafka (KRaft模式,无需Zookeeper)
  • kafka-ui(管理界面)

🌐 服务地址

服务地址说明
Kafka Brokerlocalhost:9092供 NestJS 项目连接使用
Kafka UIhttp://localhost:8080可视化查看 Topic / 消费者组等信息

🛠️ 常用运维指令

查看所有容器状态

docker ps

查看 Kafka UI 日志

docker-compose logs kafka-ui

查看 Kafka Broker 日志

docker-compose logs kafka

创建 Topic(进入 Kafka 容器内部执行)

docker exec -it kafka bash# 创建 topic
kafka-topics.sh --bootstrap-server localhost:9092 --create --topic seckill-orders --partitions 3 --replication-factor 1

查看 Topic 列表

kafka-topics.sh --bootstrap-server localhost:9092 --list

查看 Topic 消息

kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic seckill-orders --from-beginning

⚡ NestJS 配置 Kafka

NestJS 项目中连接 Kafka:

new Kafka({clientId: 'seckill-service',brokers: ['localhost:9092'],
});

🚨 注意事项

  • 这是开发测试环境配置(单节点 Kraft)
  • 生产环境应至少部署 3 个 Broker 节点,启用多控制器选举
  • 确认端口号未被占用(默认 9092 / 8080)

http://www.xdnf.cn/news/2323.html

相关文章:

  • Python dotenv 使用指南:轻松管理项目环境变量
  • 【SSH 端口转发】通过SSH端口转发实现访问远程服务器的 tensorboard
  • 什么是函数依赖中的 **自反律(Reflexivity)**、**增广律(Augmentation)** 和 **传递律(Transitivity)?
  • Eclipse 插件开发 2
  • RASP技术在DevOps中的安全应用
  • Python-MCPServer开发
  • 产业观察:哈飞空客2025.4.26
  • 【MATLAB】基于RSSI原理的Wi-Fi定位程序,N个锚点(数量可自适应)、三维空间,轨迹使用UKF进行滤波,附完整代码(订阅专栏后可直接复制粘贴)
  • 100亿补贴不是终点:京东外卖在下一盘颠覆即时零售的大棋
  • w307MES生产制造执行系统设计与实现
  • SEO新手快速上手核心步骤
  • 【Android Compose】焦点管理
  • AWS中国区ICP备案全攻略:流程、注意事项与最佳实践
  • python 画折线统计图
  • 华为OD机试真题——二维伞的雨滴效应(2025A卷:200分)Java/python/JavaScript/C/C++/GO最佳实现
  • element ui el-col的高度不一致导致换行
  • AQS条件队列源码详细剖析
  • FPGA 100G UDP纯逻辑协议栈
  • 【C语言】柔性数组
  • 单片机-89C51部分:3、创建工程
  • 【MCP 应用】CherryStudio 配置和应用 MCP
  • node入门和npm
  • std::mutex底层实现原理
  • 使用命令关闭Redis服务端
  • 【Castle-X机器人】一、模块安装与调试:机器人底盘
  • 前端学习笔记(四)自定义组件控制自己的css
  • QT跨平台软件开发要点
  • 0803分页_加载更多-网络ajax请求2-react-仿低代码平台项目
  • OSPF中DR/BDR的选举
  • WPF程序使用Sugar操作数据库