当前位置: 首页 > ai >正文

Kafka下载和使用(Windows版)

Apache Kafka 是一个高吞吐量的分布式消息系统,广泛应用于日志收集、实时流处理等场景。本文将以 Windows 系统为例,详细介绍 Kafka 的安装和使用方法。

一、安装方式

在 Windows 系统上运行 Apache Kafka,通常有两种方式:

1.WSL

使用 Windows 上的 WSL(Windows Subsystem for Linux),即在 Windows 中运行 Linux 环境来启动 Kafka。

 2.直接运行

直接在 Windows 上运行 Kafka。

本文介绍的是直接在 Windows 上运行 Kafka 的方式。

二、下载和配置Zookeeper(可选)

Kafka 依赖 ZooKeeper 来进行集群管理,除非您使用的是 KRaft 模式(从 Kafka 2.8.0 起开始支持)。以下是下载和配置 ZooKeeper 的步骤:

1.下载地址

Apache ZooKeeper

2.下载示例

3.解压

下载完成后,解压下载的 .tar.gz 或 .zip 文件到一个自定义目录。

例如: D:\JAVA\zookeeper\zookeeper-3.9.3

4.配置

(1)在解压后的 ZooKeeper 目录中,找到 conf 文件夹。

(2)复制 zoo_sample.cfg 配置文件,并将其重命名为 zoo.cfg

(3)打开 zoo.cfg 文件,修改以下配置:

dataDir:指定 ZooKeeper 存储数据的目录。

clientPort:指定 ZooKeeper 客户端连接的端口(默认是 2181)。

(4)配置示例:

dataDir=D:/JAVA/zookeeper/data

clientPort=2181

5.配置环境变量(可选)

为了在命令行中方便地运行 ZooKeeper,您可以将 ZooKeeper 的 bin 目录添加到系统的 PATH 环境变量中:

(1)右键点击 此电脑,选择 属性

(2)点击 高级系统设置,然后选择 环境变量

(3)在 系统变量 部分找到 Path,点击 编辑

(4)添加 ZooKeeper bin 目录的路径(例如:D:\JAVA\zookeeper\zookeeper-3.9.3\bin)。

(5)保存更改并关闭所有窗口。

三、下载和配置Kafka

1.下载地址

Apache Kafka

2.下载页面

注意:下载 Kafka 二进制文件版。

3.解压

下载完成后,解压下载的 .tar.gz 或 .zip 文件到一个自定义目录。

例如: D:\JAVA\kafka3.8.0

4.配置

(1)打开 config/server.properties 文件,进行如下修改:

log.dirs:指定 Kafka 存储日志的目录(建议自行创建该目录)。

zookeeper.connect:指定 ZooKeeper 的连接地址,默认是 localhost:2181

listeners:指定端口访问 Kafka,默认是 PLAINTEXT://:9092

(2)配置示例

log.dirs=D:/JAVA/mq/kafka/logs

zookeeper.connect=localhost:2181
 

listeners=PLAINTEXT://localhost:9092

5.配置环境变量(可选)

为了方便在命令行中运行 Kafka,您可以将 Kafka 的 bin/windows 目录添加到系统的 PATH 环境变量中:

(1)右键点击 此电脑,选择 属性

(2)点击 高级系统设置,然后选择 环境变量

(3)在 系统变量 部分找到 Path,点击 编辑

(4)添加 Kafka bin/windows 目录的路径(例如:D:\JAVA\kafka3.8.0\bin\windows)。

(5)保存更改并关闭所有窗口。

四、启动ZooKeeper

(1)打开 命令提示符(CMD)

(2)进入 ZooKeeper 的 bin 目录

cd D:\JAVA\zookeeper\zookeeper-3.9.3\bin

(3)启动 ZooKeeper

使用 zkServer.cmd 启动 ZooKeeper:

zkServer.cmd

(4)启动成功

(5)停止 ZooKeeper

zkServer.cmd stop

五、启动Kafka

(1)打开 另一个 命令提示符(CMD)窗口

(2)进入 Kafka 解压目录的 bin\windows 目录

cd D:\JAVA\kafka3.8.0\bin\windows

(3)启动 Kafka

kafka-server-start.bat ..\..\config\server.properties

(4)启动成功信息

(5)停止 Kafka

在命令提示符窗口中,按 Ctrl + C 停止 Kafka 服务。

六、测试Kafka功能

(1)打开 第三个命令提示符(CMD)窗口

(2)进入 Kafka 解压目录的 bin\windows 目录

cd D:\JAVA\kafka3.8.0\bin\windows

(3)创建一个 Kafka 主题(例如,创建 test 主题)

kafka-topics.bat --create --topic test --bootstrap-server localhost:9092 --partitions 1 --replication-factor 1

(4)列出当前的 Kafka 主题

kafka-topics.bat --list --bootstrap-server localhost:9092

(5)发送消息到 Kafka 的 test 主题

可以输入消息,按 Enter 发送。

kafka-console-producer.bat --topic test --bootstrap-server localhost:9092

(6)消费消息

打开 第四个命令提示符(CMD)窗口,输入以下命令:

kafka-console-consumer.bat --topic test --from-beginning --bootstrap-server localhost:9092

七、注意事项

1.安装路径

尽可能使用简短的安装路径。

2.端口问题

确保 Kafka 所需的端口(默认是 9092)没有被其他程序占用。

3.KRaft

在生产环境中,KRaft 模式还处于逐步推广阶段,建议先在开发环境中测试。

八、总结

Kafka 是一个强大且高度可扩展的消息队列系统,适合于大规模的数据流处理。安装和使用 Kafka 比较直接,但要想在生产环境中实现高可用性和扩展性,还需要考虑集群部署、监控和容错等问题。

http://www.xdnf.cn/news/459.html

相关文章:

  • docker 大模型
  • 【数学】勾股定理
  • 速查手册:TA-Lib 超过150种量化技术指标计算全解 - 2. Momentum Indicators(动量指标)
  • 编译报错 宏 _IOC_SIZEBITS,而这个宏在编译时未定义
  • 2025年赣教云智慧作业微课PPT模板
  • 网络互连与互联网4
  • [Java实战经验]异常处理最佳实践
  • 【langchain4j】Springboot如何接入大模型以及实战开发-AI问答助手(一)
  • 深入剖析JavaScript内存泄漏:识别、定位与实战解决
  • BZOJ P1419 Red is good
  • 软件测试--自动化测试1
  • 如何使用flatten函数在Terraform 中迭代嵌套map
  • 【HDFS入门】HDFS性能调优实战:压缩与编码技术深度解析
  • 若依(笔记)
  • C++入门小馆: 深入string类
  • Redis启动报错(error) NOAUTH Authentication required
  • NodeRED模拟复杂流程处理
  • MACOS 上的 快捷指令怎么用,有哪些分享资源可以用
  • WSL (ext4.vhdx文件)占用空间过大,清理方式记录,同时更改 WSL 保存位置
  • 电脑 访问 github提示 找不到网页,处理方案
  • CRC实战宝典:从原理到代码,全面攻克循环冗余校验
  • 驱动-自旋锁死锁
  • Linux系统之部署TestNet资产管理系统
  • Java使用javacv实现的多种音视频格式播放器
  • 字符串系列一>二进制求和
  • 【重走C++学习之路】12、模板进阶
  • 智慧农业新视界:视频监控管理平台如何赋能现代农业
  • Trae,字节跳动推出的 AI 编程助手插件
  • TensorFlow 实现 Mixture Density Network (MDN) 的完整说明
  • JavaScript 回调函数详解