美文网首页
spark2.0 配置ipython,本地访问远程spark

spark2.0 配置ipython,本地访问远程spark

作者: 思索人生_mind | 来源:发表于2018-01-26 12:08 被阅读0次

    1、vi ~/.bashrc

    export PYSPARK_DRIVER_PYTHON=ipython

    export PYSPARK_DRIVER_PYTHON_OPTS="notebook"

    source ~/.bashrc

    2、vi pyspark

    把python改成ipython

    3、jupyter notebook --generate-config

    vi /data1/user/zhanghd/.jupyter/jupyter_notebook_config.py

    修改地址为*

    4、然后启动pyspark,访问那个url

    5、本地访问这个地方,spark读取hdfs文件

    相关文章

      网友评论

          本文标题:spark2.0 配置ipython,本地访问远程spark

          本文链接:https://www.haomeiwen.com/subject/fvhynxtx.html