美文网首页
关于RDD缓存命令需要导入的包

关于RDD缓存命令需要导入的包

作者: 485b1aca799e | 来源:发表于2017-06-18 11:30 被阅读0次
  • spark操作时候,如果一个数据集需要反复的运算,则考虑将其导入进内存中,使得能够快速的运行。
//在使用缓存命令之前,需要导入一个包

import org.apache.spark.storage.StorageLevel

val x =sc.parallelize(List(1,2,3,4))
x.persist(StorageLevel.MEMORY_AND_DISK)
//默认缓存等级为:MEMORY_ONLY
//将缓存数据集从内存中释放
x.unpersist()

相关文章

  • 关于RDD缓存命令需要导入的包

    spark操作时候,如果一个数据集需要反复的运算,则考虑将其导入进内存中,使得能够快速的运行。

  • MyBatis | Mybatis整合第三方缓存包(EHcach

    一、导入jar包 1.下载 需要下载第三方缓存包及其与MyBatis整合的适配包。可以点此下载所需jar包 2.导...

  • SparkCore之RDD缓存与RDD CheckPoint

    RDD缓存 RDD通过persist方法或cache方法可以将前面的计算结果缓存,默认情况下 persist() ...

  • python虚拟环境迁移打包

    需要迁移的虚拟环境cmd命令下: 命令 将安装包版本信息导入到requireents.txt文件中注意 --all...

  • 在iOS中使用SDWebImage缓存图片

    正常使用SDWebImage缓存图片 在需要清除缓存的界面导入#import "SDWebImage/SDImag...

  • Objective-C 基础

    package oc 中没有包(package)的概念, Java import oc 导入命令,导入系统类库使用...

  • 27.iOS清除缓存

    简述:下面的是根据SDImage图片缓存与文件缓存结合在一起来写的需要导入SDImage三方,一般需要导入头文件#...

  • Flutter混合开发

    Framework 包 flutter代码打包命令 执行命令后,生成三个包 将对应的静态库framework导入到...

  • 05-命令行参数

    通过os包获取命令行参数 获取方法导入os包然后通过os包的Args属性获取命令行参数package mainim...

  • Spark RDD持久化级别

    RDD持久化用于RDD重用和节省重新计算,方便构建迭代算法,缓存粒度为整个RDD 持久化级别 如何选择存储级别? ...

网友评论

      本文标题:关于RDD缓存命令需要导入的包

      本文链接:https://www.haomeiwen.com/subject/joyiqxtx.html