当前位置: 首页 > news >正文

Kafka-日常运维命令

作者介绍:简历上没有一个精通的运维工程师。请点击上方的蓝色《运维小路》关注我,下面的思维导图也是预计更新的内容和当前进度(不定时更新)。

图片

我们上一章介绍了中间件:Zookeeper,本章将介绍另外一个中间件:Kafka。目前这2个中间件都是基于JAVA语言的。

对于运维来说,一个正常的Kafka的集群,一般情况下我们是不需要去操作ZooKeeper来维护它的集群状态的。我们对Kafka的操作,大部分都通过Kafka自带的脚本来操作它,下面我们就来介绍下使用较多的命令。(部分命令在前面的操作里面已经有演示)。

#下面都是默认自带的脚本
#根据环境和需求不一样,大部分我们都用不到,我们最常用就那么几个 
[root@localhost ~]# ll /root/kafka_2.13-2.8.2/bin/
total 156
-rwxr-xr-x 1 root root  1423 Sep  2  2022 connect-distributed.sh
-rwxr-xr-x 1 root root  1396 Sep  2  2022 connect-mirror-maker.sh
-rwxr-xr-x 1 root root  1420 Sep  2  2022 connect-standalone.sh
-rwxr-xr-x 1 root root   861 Sep  2  2022 kafka-acls.sh
-rwxr-xr-x 1 root root   873 Sep  2  2022 kafka-broker-api-versions.sh
-rwxr-xr-x 1 root root   860 Sep  2  2022 kafka-cluster.sh
-rwxr-xr-x 1 root root   864 Sep  2  2022 kafka-configs.sh
-rwxr-xr-x 1 root root   945 Sep  2  2022 kafka-console-consumer.sh
-rwxr-xr-x 1 root root   944 Sep  2  2022 kafka-console-producer.sh
-rwxr-xr-x 1 root root   871 Sep  2  2022 kafka-consumer-groups.sh
-rwxr-xr-x 1 root root   948 Sep  2  2022 kafka-consumer-perf-test.sh
-rwxr-xr-x 1 root root   871 Sep  2  2022 kafka-delegation-tokens.sh
-rwxr-xr-x 1 root root   869 Sep  2  2022 kafka-delete-records.sh
-rwxr-xr-x 1 root root   866 Sep  2  2022 kafka-dump-log.sh
-rwxr-xr-x 1 root root   863 Sep  2  2022 kafka-features.sh
-rwxr-xr-x 1 root root   870 Sep  2  2022 kafka-leader-election.sh
-rwxr-xr-x 1 root root   863 Sep  2  2022 kafka-log-dirs.sh
-rwxr-xr-x 1 root root   873 Sep  2  2022 kafka-metadata-shell.sh
-rwxr-xr-x 1 root root   862 Sep  2  2022 kafka-mirror-maker.sh
-rwxr-xr-x 1 root root   886 Sep  2  2022 kafka-preferred-replica-election.sh
-rwxr-xr-x 1 root root   959 Sep  2  2022 kafka-producer-perf-test.sh
-rwxr-xr-x 1 root root   874 Sep  2  2022 kafka-reassign-partitions.sh
-rwxr-xr-x 1 root root   874 Sep  2  2022 kafka-replica-verification.sh
-rwxr-xr-x 1 root root 10329 Sep  2  2022 kafka-run-class.sh
-rwxr-xr-x 1 root root  1376 Sep  2  2022 kafka-server-start.sh
-rwxr-xr-x 1 root root  1361 Sep  2  2022 kafka-server-stop.sh
-rwxr-xr-x 1 root root   860 Sep  2  2022 kafka-storage.sh
-rwxr-xr-x 1 root root   945 Sep  2  2022 kafka-streams-application-reset.sh
-rwxr-xr-x 1 root root   863 Sep  2  2022 kafka-topics.sh
-rwxr-xr-x 1 root root   958 Sep  2  2022 kafka-verifiable-consumer.sh
-rwxr-xr-x 1 root root   958 Sep  2  2022 kafka-verifiable-producer.sh
-rwxr-xr-x 1 root root  1714 Sep  2  2022 trogdor.sh
drwxr-xr-x 2 root root  4096 Sep  2  2022 windows
-rwxr-xr-x 1 root root   867 Sep  2  2022 zookeeper-security-migration.sh
-rwxr-xr-x 1 root root  1393 Sep  2  2022 zookeeper-server-start.sh
-rwxr-xr-x 1 root root  1366 Sep  2  2022 zookeeper-server-stop.sh
-rwxr-xr-x 1 root root  1019 Sep  2  2022 zookeeper-shell.sh

一.基本操作
1. kafka-topics.sh(主题管理)
  • 用途:创建、查看、删除 Topic,管理分区和副本。

  • 常用子命令

# 创建 Topic(指定分区数、副本因子)
kafka-topics.sh --bootstrap-server <broker:port> --create --topic <topic_name> --partitions <N> --replication-factor <N># 列出所有 Topic
kafka-topics.sh --bootstrap-server <broker:port> --list# 查看 Topic 详细信息(分区、副本分布、ISR 等)
kafka-topics.sh --bootstrap-server <broker:port> --describe --topic <topic_name># 删除 Topic
kafka-topics.sh --bootstrap-server <broker:port> --delete --topic <topic_name>

2. kafka-console-producer.sh(控制台生产者)

  • 用途:向指定 Topic 发送测试消息。

  • 常用参数

# 发送普通文本消息
kafka-console-producer.sh --bootstrap-server <broker:port> --topic <topic_name># 指定消息 Key(配合 parse.key 使用)
kafka-console-producer.sh --bootstrap-server <broker:port> --topic <topic_name> --property "parse.key=true" --property "key.separator=:"
3. kafka-console-consumer.sh(控制台消费者)
  • 用途:消费指定 Topic 的消息。

  • 常用参数

# 消费最新消息(从头开始加 --from-beginning)
kafka-console-consumer.sh --bootstrap-server <broker:port> --topic <topic_name># 显示消息 Key 和 Value
kafka-console-consumer.sh --bootstrap-server <broker:port> --topic <topic_name> --property print.key=true# 指定消费者组(避免重复消费)
kafka-console-consumer.sh --bootstrap-server <broker:port> --topic <topic_name> --group <group_id>
4. kafka-consumer-groups.sh(消费者组管理)
  • 用途:查看消费者组状态、重置 Offset。

  • 常用子命令

# 列出所有消费者组
kafka-consumer-groups.sh --bootstrap-server <broker:port> --list# 查看消费者组详情(Lag、Offset 等)
kafka-consumer-groups.sh --bootstrap-server <broker:port> --describe --group <group_id># 重置 Offset 到指定位置(如 earliest、latest 或特定值)
kafka-consumer-groups.sh --bootstrap-server <broker:port> --group <group_id> --topic <topic_name> --reset-offsets --to-earliest --execute
5. kafka-configs.sh(动态配置管理)
  • 用途:修改 Topic、Broker 或客户端的动态配置。

  • 常用子命令

# 查看 Topic 的配置
kafka-configs.sh --bootstrap-server <broker:port> --entity-type topics --entity-name <topic_name> --describe# 修改 Topic 的消息保留时间
kafka-configs.sh --bootstrap-server <broker:port> --entity-type topics --entity-name <topic_name> --alter --add-config retention.ms=86400000

6. kafka-acls.sh(权限管理)

  • 用途:管理 Kafka 的访问控制列表(ACL)。

  • 常用子命令

# 授予生产者权限
kafka-acls.sh --bootstrap-server <broker:port> --add --allow-principal User:<user> --producer --topic <topic_name># 授予消费者权限
kafka-acls.sh --bootstrap-server <broker:port> --add --allow-principal User:<user> --consumer --topic <topic_name> --group <group_id>

二、集群管理命令

1. kafka-server-start.sh(启动 Broker)
  • 用途:启动 Kafka Broker 服务。

  • 常用方式

# 指定配置文件启动
kafka-server-start.sh /path/to/server.properties
2. kafka-reassign-partitions.sh(分区重分配)
  • 用途:手动调整分区副本分布(如扩容、节点下线)。

# 生成分区重分配计划(JSON 格式)
kafka-reassign-partitions.sh --bootstrap-server <broker:port> --generate --topics-to-move-json-file <plan.json> --broker-list "0,1,2"# 执行重分配
kafka-reassign-partitions.sh --bootstrap-server <broker:port> --execute --reassignment-json-file <plan.json>

三、调试与监控

1. kafka-dump-log.sh(日志分析)
  • 用途:解析分区日志文件(查看消息内容)。

  • 常用参数

# 查看某个分区日志的头部和尾部消息
kafka-dump-log.sh --files /path/to/partition-log-00000 --print-data-log
2. kafka-producer-perf-test.sh(生产者压测)
  • 用途:测试生产者吞吐量。

  • 常用参数

kafka-producer-perf-test.sh --topic <topic_name> --num-records 100000 --record-size 1000 --throughput 1000 --producer-props bootstrap.servers=<broker:port>

总结

  • 最常用命令
    kafka-topics.shkafka-console-producer.shkafka-console-consumer.shkafka-consumer-groups.shkafka-configs.shkafka-server-start.sh.

  • 关键参数
    --bootstrap-server(新版替代 --zookeeper)、--describe--alter--reset-offsets

运维小路

一个不会开发的运维!一个要学开发的运维!一个学不会开发的运维!欢迎大家骚扰的运维!

关注微信公众号《运维小路》获取更多内容。

http://www.xdnf.cn/news/1105129.html

相关文章:

  • 一个中层管理者应该看什么书籍?
  • TCP协议详解——初识
  • SQL开窗函数
  • Guava LoadingCache
  • LLM场景下的强化学习【GRPO】
  • 在线重装 Proxmox VE
  • DeepSeek模型分析及其在AI辅助蛋白质工程中的应用-文献精读148
  • C语言文件读写操作详解:fgetc与feof函数的应用
  • RestTemplate动态修改请求的url
  • C++前缀和与差分的深度探索
  • 信号量机制
  • Python-正则表达式-信息提取-滑动窗口-数据分发-文件加载及分析器-浏览器分析-学习笔记
  • Windows GNU Radio避坑
  • 【牛客刷题】dd爱科学1.0
  • 计算机网络第三章(6)——数据链路层《网桥交换机》
  • PHT-CAD 笔记
  • 深入MyBatis:CRUD操作与高级查询实战
  • Visual Studio Code 的 settings.json 配置指南
  • K8s Service 终极解析:源码、性能、故障排查全攻略
  • 深入解析 TCP 连接状态与进程挂起、恢复与关闭
  • ROS1学习第三弹
  • Web安全 - 基于 SM2/SM4 的前后端国产加解密方案详解
  • Web安全-Linux基础-01-初识Linux
  • 牛客周赛 Round 99
  • 每日算法刷题Day45 7.11:leetcode前缀和3道题,用时1h40min
  • 浏览器重绘与重排
  • LDO选型
  • # Day31 Java方法02 方法的定义和调用
  • netdxf—— CAD c#二次开发之(netDxf 处理 DXF 文件)
  • Apache Cloudberry 向量化实践(三)重塑表达式构建路径:Gandiva 优化实战