美文网首页
RDD操作——文件数据读写

RDD操作——文件数据读写

作者: _羊羽_ | 来源:发表于2019-08-21 22:23 被阅读0次

要加载本地文件,必须采用“file:///”开头的这种格式。执行上上面这条命令以后,并不会马上显示结果,因为,Spark采用惰性机制,只有遇到“行动”类型的操作,才会从头到尾执行所有操作。

scala> val textFile = sc.textFile("file:///root/app/spark/input/word.txt")
textFile: org.apache.spark.rdd.RDD[String] = file:///root/app/spark/input/word.txt MapPartitionsRDD[87] at textFile at <console>:24

scala> textFile.first
res52: String = hello world

first()是一个“行动”(Action)类型的操作,会启动真正的计算过程,从文件中加载数据到变量textFile中,并取出第一行文本。屏幕上会显示很多反馈信息。

saveAsTextFile

saveAsTextFile()是一个“行动”(Action)类型的操作,所以,马上会执行真正的计算过程,从word.txt中加载数据到变量textFile中

相关文章

  • RDD操作——文件数据读写

    要加载本地文件,必须采用“file:///”开头的这种格式。执行上上面这条命令以后,并不会马上显示结果,因为,Sp...

  • Python 学习笔记6 2018-04-13

    文件操作: 1,文件的读写操作 2,文件的各种系统操作 3,存储对象 1,文件的读写操作 读写数据: ...

  • 数据存储与访问之——文件存储读写

    1.Android文件的操作模式 在java中要想对文件做读写操作,只需创建 文件,读写数据即可,Android却...

  • python文件相关操作

    一. 文件的读写操作基于字符read & write最基本的文件操作当然就是在文件中读写数据。打开一个文件的操作:...

  • Python3 读写文件

    读写是Python中常见的操作, 通过读写请求操作系统打开文件对象,然后读取数据或者写入数据。 1. 读文件 f....

  • Python中文件的读取

    读写文件是数据分析中常用的操作。Python内置了读写文件的函数。需要了解的是,在磁盘上读写文件的功能都是由操作系...

  • PythonのIO操作

    IO操作,即对硬盘上的数据进行读写操作。直接上代码: 对于读写操作,最后一定要关闭文件对象,因为文件对象会占用操作...

  • Spark scala 操作

    基本操作 创建RDD 读取文件数据 map操作,指定一个函数产生新的RDD,元素直接是一对一的关系。 filter...

  • 【Spark入门-笔记】RDD编程

    1 RDD基础 2 创建RDD-两种方式 2.1 进行并行化创建RDD 2.2 读取数据创建RDD 3 RDD操作...

  • #介绍文件的操作方式

    1.文件的打开操作 2.文件的关闭操作 3.文件的读写 4.读数据(read) 读单个长度 5.读数据(readl...

网友评论

      本文标题:RDD操作——文件数据读写

      本文链接:https://www.haomeiwen.com/subject/utwdsctx.html