美文网首页
spark2.0 配置ipython,本地访问远程spark

spark2.0 配置ipython,本地访问远程spark

作者: 思索人生_mind | 来源:发表于2018-01-26 12:08 被阅读0次

1、vi ~/.bashrc

export PYSPARK_DRIVER_PYTHON=ipython

export PYSPARK_DRIVER_PYTHON_OPTS="notebook"

source ~/.bashrc

2、vi pyspark

把python改成ipython

3、jupyter notebook --generate-config

vi /data1/user/zhanghd/.jupyter/jupyter_notebook_config.py

修改地址为*

4、然后启动pyspark,访问那个url

5、本地访问这个地方,spark读取hdfs文件

相关文章

网友评论

      本文标题:spark2.0 配置ipython,本地访问远程spark

      本文链接:https://www.haomeiwen.com/subject/fvhynxtx.html