美文网首页
数据分析 | MAC Big Sur搭建hadoop+spark

数据分析 | MAC Big Sur搭建hadoop+spark

作者: Ricsy | 来源:发表于2022-03-22 21:06 被阅读0次

    一、组件包下载

    组件包名称 下载链接 备注
    Java
    Hadoop hadoop-3.2.0.tar.gz
    Spark spark-3.1.2-bin-hadoop3.2.tgz

    二、安装步骤

    2.1 环境变量配置

    vim .zsh_profilevim .bash_profile

    变量名 变量值 备注
    JAVA_HOME
    HADOOP_HOME export HADOOP_HOME=/Users/ricsy/hadoop/hadoop
    SPARK_HOME export SPARK_HOME=/Users/ricsy/hadoop/spark
    PYSPARK_DRIVER_PYTHON jupyter
    PYSPARK_DRIVER_PYTHON_OPTS notebook
    PATH export PATH=${PATH}:${HADOOP_HOME}/bin:${SPARK_HOME}/bin

    source .zsh_profilesource .bash_profile

    2.2 安装Hadoop

    2.3 MAC设置

    1、系统偏好设置 => 共享 => 远程登录


    三、使用步骤

    1、command+空格输入terminal后回车打开终端
    2、执行以下命令
    pyspark

    参阅:

    相关文章

      网友评论

          本文标题:数据分析 | MAC Big Sur搭建hadoop+spark

          本文链接:https://www.haomeiwen.com/subject/klhsiktx.html