Spark快速上手(6)Spark核心编程-RDD行动算子Action


RDD(3)

RDD行动算子

所谓行动算子,就是触发Job执行的方法

reduce

函数签名
def reduce(f: (T, T) => T): T
函数说明
聚集RDD中的所有元素,先聚合分区内数据,再聚合分区间数据
e.g.
code:

def main(args: Array[String]): Unit = {
    val source: RDD[Int] = sc.makeRDD(List(1, 2, 3, 4))
    //    聚合数据
    val reduceResult: Int = source.reduce(_ + _)
    println(reduceResult)
  }

result:
10

collect

函数签名
def collect(): Array[T]
函数说明
在驱动程序中,以数组Array形式返回数据集中的所有元素
e.g.
code:

@Test
    def testCollect(): Unit = {
      //    收集数据到driver
      source.collect().foreach(println)
    }

count

函数签名
def count(): Long
函数说明
返回RDD中的元素的个数
e.g.
code:

 @Test
    def testCount(): Unit = {
      //    返回 RDD 中元素的个数
      println(source.count())
    }

first

函数签名
def first(): T
函数说明
返回RDD中的第一个元素
e.g.
code:

@Test
    def testFirst(): Unit ={
      //    返回 RDD 中的第一个元素
      println(source.first())
    }

原创文章,作者:kepupublish,如若转载,请注明出处:https://blog.ytso.com/272729.html

(0)
上一篇 2022年7月9日
下一篇 2022年7月9日

相关推荐

发表回复

登录后才能评论