当前位置: 首页 > ds >正文

Hadoop 集群基础指令指南

目录

🧩 一、Hadoop 基础服务管理指令

▶️ 启动 Hadoop

⏹️ 关闭 Hadoop

🧾 查看进程是否正常运行

📁 二、HDFS 常用文件系统指令

🛠️ 三、MapReduce 作业运行指令

📋 四、集群状态监控指令

💡 五、管理员常用 HDFS 命令


包含 Hadoop 启动/关闭、HDFS 基本操作、MapReduce 提交流程等的常用指令大全,适合刚搭建好 Hadoop 环境后进行操作与测试。


🧩 一、Hadoop 基础服务管理指令

▶️ 启动 Hadoop

# 启动 HDFS 和 YARN 所有服务(推荐)
start-dfs.sh
start-yarn.sh# 或使用统一启动脚本(部分版本支持)
start-all.sh

⏹️ 关闭 Hadoop

# 停止 HDFS 和 YARN 所有服务
stop-dfs.sh
stop-yarn.sh# 或使用统一停止脚本
stop-all.sh

🧾 查看进程是否正常运行

jps
# 正常应看到:NameNode、DataNode、ResourceManager、NodeManager 等

📁 二、HDFS 常用文件系统指令

功能命令
查看根目录hadoop fs -ls /
创建目录hadoop fs -mkdir /user/yourname
上传文件hadoop fs -put test.txt /user/yourname/
下载文件hadoop fs -get /user/yourname/test.txt ./
删除文件hadoop fs -rm /user/yourname/test.txt
删除目录hadoop fs -rm -r /user/yourname/testdir
查看内容hadoop fs -cat /user/yourname/test.txt
查看空间使用hadoop fs -du -s /user/yourname/
拷贝文件hadoop fs -cp /src/file.txt /dst/file.txt
移动文件hadoop fs -mv /src/file.txt /dst/

🛠️ 三、MapReduce 作业运行指令

# 1. 编译 Java 程序并打包为 JAR(假设你写的是 WordCount.java)
javac -classpath `hadoop classpath` -d classes WordCount.java
jar -cvf wordcount.jar -C classes/ .# 2. 上传输入文件
hadoop fs -mkdir /input
hadoop fs -put input.txt /input/# 3. 提交 MapReduce 作业(以 WordCount 为例)
hadoop jar wordcount.jar WordCount /input /output# 4. 查看输出结果
hadoop fs -cat /output/part-r-00000

📋 四、集群状态监控指令

功能命令
查看作业列表yarn application -list
查看作业状态yarn application -status <app_id>
杀死作业yarn application -kill <app_id>
查看节点yarn node -list
查看集群资源yarn cluster --list

💡 五、管理员常用 HDFS 命令

# 查看 HDFS 使用状态
hdfs dfsadmin -report# 刷新节点信息(当编辑了 slaves 文件等)
hdfs dfsadmin -refreshNodes# 安全模式检查(启动时只读)
hdfs dfsadmin -safemode get
http://www.xdnf.cn/news/3288.html

相关文章:

  • usb端点笔记
  • 【UE5】“对不起,您的客户端未能传递登录所需的参数”解决办法
  • QCefView应用和网页的交互
  • Github 热点项目 Qwen3 通义千问全面发布 新一代智能语言模型系统
  • WPF使用高性能图表
  • 【游戏ai】从强化学习开始自学游戏ai-2 使用IPPO自博弈对抗pongv3环境
  • 基于C++的IOT网关和平台4:github项目ctGateway交互协议
  • flutter 专题 一百零四 Flutter环境搭建
  • 零基础做自动驾驶集成测试(仿真)
  • MIPS架构详解:定义、应用与其他架构对比
  • harmonyOS 手机,双折叠,平板,PC端屏幕适配
  • 数据隐私在Web3环境下的重要性及实现方法
  • Spring Boot集成Kafka并使用多个死信队列的完整示例
  • 【MySQL】增删改查(CRUD)
  • Microsoft Entra ID 免费版管理云资源详解
  • mysql-5.7.24-linux-glibc2.12-x86_64.tar.gz的下载安装和使用
  • 上海地区IDC机房服务器托管选型报告(2025年4月30日)
  • (51单片机)LCD显示红外遥控相关数据(Delay延时函数)(LCD1602教程)(Int0和Timer0外部中断教程)(IR红外遥控模块教程)
  • LeRobot 项目部署运行逻辑(三)——机器人及舵机配置
  • 【STM32实物】基于STM32的RFID多卡识别语音播报系统设计
  • 左右分屏电商带货视频批量混剪自动剪辑生产技术软件:智能剪辑与合规化方案解析
  • 【优选算法 | 前缀和】前缀和算法:高效解决区间求和问题的关键
  • 无侵入式的解决 ViewPager2 跟横向滑动子 View 手势冲突的一种思路
  • 人工智能数学基础(五):概率论
  • Kafka Producer的acks参数对消息可靠性有何影响?
  • 阿里云服务器技术纵览:从底层架构到行业赋能​
  • PostgreSQL数据库操作基本命令
  • JAVA SE 反射,枚举与lambda表达式
  • 制作一款打飞机游戏36:调度编辑器
  • K8S - 命名空间实战 - 从资源隔离到多环境管理