当前位置: 首页 > news >正文

行动作用作用

行动算子(Action) 是一种触发 RDD 计算的操作。与转换算子(Transformation)不同,行动算子会返回一个结果给驱动程序(Driver Program),或者将结果写入外部存储系统。行动算子是触发 Spark 计算的“触发点”,因为 Spark 的 RDD 是懒惰计算的,只有在执行行动算子时,才会真正开始计算。

下面介绍集中常见的行动算子。

1. collect算子

作用:用于将分布式存储在集群中各个节点上的 RDD 元素收集到驱动程序(Driver Program)中,并以数组的形式返回。这意味着该算子会触发 Spark 作业的执行,将之前的转换操作进行实际计算,并将结果汇总到驱动程序所在的节点。

格式def collect(): Array[T]

参数说明:该算子没有参数。

返回值:返回一个包含 RDD 中所有元素的数组,数组元素的类型与 RDD 中元素的类型一致。

示例代码

object CollectExample {def main(args: Array[String]): Unit = {// 省略 ...// 创建一个包含整数的 RDDval numbers = sc.parallelize(1 to 10)// 使用 collect 算子将 RDD 中的元素收集到驱动程序val collectedNumbers = numbers.collect()// 输出收集到的元素collectedNumbers.foreach(println)// 停止 SparkContextsc.stop()}}
2.reduce算子

作用:reduce 用于对 RDD 中的元素进行全局聚合操作,例如计算 RDD 中所有元素的总和、最大值、最小值等。在分布式计算环境中,reduce 会先在每个分区内进行局部聚合,然后将各个分区的结果进行全局聚合,最终得到一个单一的结果。

格式

def reduce(func: (T, T) => T): T

参数说明:

func: (T, T) => T:这是一个二元函数,用于定义如何对 RDD 中的元素进行聚合。函数接收两个类型为 T 的元素,返回一个类型为 T 的结果。例如,若要对 RDD 中的整数进行求和,func 可以是 (x, y) => x + y。

返回值:返回一个单一的值,其类型与 RDD 中元素的类型相同。

示例代码

以下是一个使用 reduce 计算 RDD 中所有整数之和的示例:

object ReduceExample {def main(args: Array[String]): Unit = {// 省略...// 创建一个包含整数的 RDDval numbers = sc.parallelize(1 to 10)// 使用 reduce 算子计算所有元素的总和val sum = numbers.reduce(_ + _)// 输出结果println(s"RDD 中所有元素的总和为: $sum")// 停止 SparkContextsc.stop()}}
3.count算子

作用:count 是 Spark 中的一个行动算子,用于统计 RDD 中元素的数量。它会触发 Spark 作业的实际执行,对 RDD 中的所有元素进行计数,并将最终的计数结果返回给驱动程序。例如在进行数据验证、抽样或者评估数据处理任务的复杂度时,都可能需要知道 RDD 中元素的数量

格式

def count(): Long

参数说明:该算子没有参数。

返回值:返回一个 Long 类型的值,表示 RDD 中元素的数量。

4. 示例代码

import org.apache.spark.{SparkConf, SparkContext}
object CountExample {def main(args: Array[String]): Unit = {// 创建 SparkConf 对象val conf = new SparkConf().setAppName("CountExample").setMaster("local[*]")// 创建 SparkContext 对象val sc = new SparkContext(conf)// 创建一个包含字符串的 RDDval words = sc.parallelize(List("apple", "banana", "cherry", "date"))// 使用 count 算子统计 RDD 中元素的数量val count = words.count()// 输出结果println(s"RDD 中元素的数量为: $count")// 停止 SparkContextsc.stop()}}
4.foreach算子

作用:foreach 用于对 RDD 中的每个元素应用指定的函数。它主要用于执行一些副作用操作,比如将数据写入外部存储系统(如数据库、文件系统等),或者进行日志记录等。与其他转换算子不同,foreach 不会返回一个新的 RDD,而是直接对每个元素执行操作。

格式def foreach(f: T => Unit): Unit

参数说明:

f: T => Unit:这是一个函数,它接收一个类型为 T 的元素(T 为 RDD 中元素的类型),并对该元素执行相应的操作,但不返回任何值(返回类型为 Unit)。

返回值:该算子的返回类型为 Unit,即不返回任何有意义的值,它主要是为了执行副作用操作。

示例代码

object ForeachExample {def main(args: Array[String]): Unit = {// 创建一个包含整数的 RDDval numbers = sc.parallelize(1 to 5)// 使用 foreach 算子对每个元素应用打印操作numbers.foreach(num => println(s"元素: $num"))// 停止 SparkContextsc.stop()}
}

http://www.xdnf.cn/news/329257.html

相关文章:

  • 后端返回文件流,前端展示图片
  • 003 系统和入门指令
  • 【基础知识】常见公式计算(三)
  • 情感共鸣+海外网红营销:跨境电商如何讲好“母亲节”故事?
  • BRAM 64bit位宽报错问题
  • C++ 如何在一个方法中返回多个不同类型的数据
  • [D1,2] 贪心刷题
  • 深入剖析GoFrame日志模块:优势、特色与项目实践经验分享
  • 不同大模型对提示词和问题的符号标识
  • C++:买房子
  • 手动写一个vuex的可持续化插件
  • MySQL的行级锁锁的到底是什么?
  • [Windows] Ghost Downloader v3.5.9 开源多线程下载工具
  • Qt开发经验:回调函数的线程归属问题及回调函数中更新控件的问题
  • css识别\n换行
  • SEO关键词与长尾词精准布局策略
  • 海外短剧H5系统开发:技术架构、SEO优化与全球市场突围策略 [2025版]
  • 通过vllm部署qwen3大模型以及基于 vLLM 的 OpenAI 兼容 API 接口调用方法总结
  • Yocto Project概念(一)
  • 外包团队协作效率低,如何优化
  • AI 大模型新浪潮:从 DeepSeek-Prover 到 Qwen3,再到 DeepSeek-R2,迈向自动推理的新时代20250507
  • (四)Java逻辑运算符和位运算符全面解析
  • spring的事件监听
  • 【Machine Learning Q and AI 读书笔记】- 05 利用数据减少过拟合现象
  • 【JAVA】BigDecimal判断是否为0, / by zero的问题修复
  • leetcode 2395. Find Subarrays With Equal Sum
  • MySQL 数据备份与恢复
  • Nginx篇之限制公网IP访问特定接口url实操
  • QUIC协议优化:HTTP_3环境下的超高速异步抓取方案
  • Qt重写相关事件,原来的默认功能是不是丢失了?