美文网首页
mac 本地配置Scala+spark jupyter note

mac 本地配置Scala+spark jupyter note

作者: 井底蛙蛙呱呱呱 | 来源:发表于2021-10-15 21:01 被阅读0次

在安装之前,最好安装好anaconda环境,网上安装anaconda教程很多,这里不赘述。下面简述如何安装Scala + spark。

1、安装scala notebook

# Step 1: Install spylon kernel
pip install spylon-kernel

# Step 2: create a kernel spec
python -m spylon_kernel install

# Step 3: start jupyter notebook 
jupyter notebook

查看当前可用kernel:

jupyter kernelspec list

2、 安装spark

这里直接实用mac的homebrew进行安装:

brew install apache-spark

3、添加spark环境变量

在.bashrc或.zshrc中添加spark环境变量,即刚刚安装的spark的路径。

# 需要注意这里路径一定要写到libexec/,不然会报错
export SPARK_HOME=/opt/homebrew/Cellar/apache-spark/3.1.2/libexec/

最后source .zshrc更新一下环境变量,基本大功告成。

参考:
https://stackoverflow.com/questions/35563545/how-do-i-install-scala-in-jupyter-ipython-notebook

相关文章

  • mac 本地配置Scala+spark jupyter note

    在安装之前,最好安装好anaconda环境,网上安装anaconda教程很多,这里不赘述。下面简述如何安装Scal...

  • jupyter notebook 链接linux与windows

    安装jupyter 生成配置文件Jupyter Notebook 默认的配置只能从本地访问,所以需要生成配置文件,...

  • jupyternote

    笔记 配置on Mac 远程访问jupyter notebook 生成配置文件 生成密码 修改默认配置文件 打开文...

  • 科学计算环境配置教程

    科学计算环境配置教程 你本次需要安装,最好用有线网下载。 Anaconda spyder jupyter note...

  • Jupyter Notebook 快速入门

    Jupyter Notebook 快速入门 Jupyter Notebook(此前被称为 IPython note...

  • jupyter note

    在终端操作 安装 pip install jupyter 登入 jupyter notebook 其他操作可以参考...

  • jupyter note

    最近在知乎看到了一些非常实用的实用jupyter的笔记了,关于魔法命令注意这些命令是在Python kernel中...

  • 2. 远程访问jupyter notebook

    想在本地远程访问jupyter notebook,则需要进行如下配置: 1. 登陆远程服务器 2. 生成配置文件 ...

  • Mac下ssh key配置

    Mac下sshkey的配置,主要配置是为了让本地和远端可以连接,可以pull,push。 1 Mac下单个ssh ...

  • Jupyter notebook server配置

    目的 通过任何一台电脑浏览器访问https://我的ip: 端口号,就可以编辑我本地电脑的Jupyter note...

网友评论

      本文标题:mac 本地配置Scala+spark jupyter note

      本文链接:https://www.haomeiwen.com/subject/hvtvoltx.html