美文网首页存档数据分析
JupyterNotebook小技巧合集

JupyterNotebook小技巧合集

作者: zhyuzh3d | 来源:发表于2020-08-04 13:55 被阅读0次

    智能决策上手系列教程索引

    不断更新
    部分内容来自于翻译整理

    Jupyter Notebook可能是当今最常用的数据科学工具

    写Python代码很多人会告诉你要用Pycharm,但那是开发Python项目用的, 那种由成百上千个文件组成、包含数万行代码的项目必须要很专业的复杂工具才行。
    但如果你的目的是数据分析、算法研究等方面的工作,那么Jupyter Notebook 最适合你,因为它足够简单,让你可以专注于数据和算法的逻辑而不是工具。

    JupyterNotebook不仅可以写代码还能输出图像、表格等

    你可以用用下面一些代码实验(代码来自天池实验室):
    %matplotlib inline import numpy as np import matplotlib.pyplot as plt from scipy.special import jn from IPython.display import display, clear_output import time x = np.linspace(0,5) f, ax = plt.subplots() ax.set_title("Bessel functions") for n in range(1,10): time.sleep(1) ax.plot(x, jn(x,n)) clear_output(wait=True) display(f) plt.close()
    得到如下图所示:

    image.png
    常用的绘图分析工具有Matplotlib、Seaborn、plot.ly。

    使用Anaconda来安装最省事

    如果你要快速开始Python编程,直接下载Anaconda是最简单的,它包含了你所需要的一切,甚至连Python都不需要单独安装。
    开机,下载和安装Anaconda,打开Anaconda navigator就看到Jupyter notebook了。
    Anaconda3.5.2:
    百度网盘下载(非VIP较慢)
    官方下载(Windows电脑使用)
    官方下载(苹果电脑使用)

    更省事的是阿里云天池Notebook实验室

    这是一个在线版的Notebook,什么都不需要安装就能开始编码和运行!
    唯一麻烦的就是需要你注册并实名认证。
    你在网页里编写Python代码,然后免费在阿里云服务器上运行并返回结果。你写的代码也存在服务器上,不用再担心会丢失了,它甚至包含了代码版本管理功能!
    阿里云天池Notebook
    已知的确缺点有:
    * 不能随意的安装第三方功能模块。不过它已经自带了很多,大多数情况都足够了。
    * 不能安装Notebook插件。基本上也不是问题,没事谁也不折腾这个。
    * 要命的是你不能像控制自己的电脑一样控制远程服务器,当你在爬取某个网站数据的时候,网站发现你的IP(阿里云服务器的IP)访问不正常要求在浏览器内做人工识别字符验证,这时候你就无助了。——如果在你自己电脑上就只要打开浏览器操作一下就OK了。

    Ipython是Jupyter的前身

    Jupyter项目是从Ipython项目演进过来的,所以当你看到存储的文件是.ipynb时候不要奇怪,就是ipython notebook的意思。实际上以后在很多地方都会看到Ipy字样。

    JupyterLab是Notebook的加强版

    在Anaconda navigator里面还有一个JupyterLab。Lab在Notebook基础上增加了更多的功能,如果你已经使用过一段时间的Notebook,那可以试试看Lab。

    Shift+回车执行单元代码

    快速运行并输出结果,并跳转到下一个单元。

    代码自动完成

    在代码顶部添加%config IPCompleter.greedy=True这一行并且shift+回车运行,对于接下来运行过的内容都会被列入自动提示中。

    按Tab键弹出自动提示
    如下图,输入my然后Tab键就弹出上面自定义的两个变量名,然后按回车直接输入myCount,按向下箭头键再回车就输入myNum

    image.png
    同样对于import导入的功能模块也可以提示。比如下图,输入requ然后按tab就自动补全输入requests(因为已经导入,并且是唯一的,而刚才的myCountmyNum都是my开头)。
    输入到requests.的时候按tab就会弹出requests包含的所有功能命令,继续输入g就得到下图的情况。
    image.png
    但是每次都按【Tab】按键也并不方便,因为如果装了Jupyter notebook的扩展插件包(参考下面扩展插件部分),只要用下面的命令来开启自动完成即可。jupyter nbextension enable hinterland/hinterland,成功OK之后重新打开Jupyter Notebook,在输入代码的同时就会实现自动提示了。

    不要把代码都写在一个单元cell里!

    这非常重要!
    但也不要每行一个cell...
    合理安排,一个cell就是一个小的逻辑单元,这样既可以理清思路,又方便单独运行每个cell方便测试寻找问题。
    推荐把相关的设置变量都集中放在最上面单独一个或几个cell,这样以后使用时候可以集中修改,不影响代码逻辑。
    比如下图中的代码,以后修改只要修改两个变量num1、num2就可以直接运行得到结果。

    image.png
    另外一个建议就是把能够独立的代码变为一个def单独拿出去作为cell内容,比如下面把求整体方差avri分拆出了两个def函数,avg求平均数,sqr求两数差的平方。(代码仅供示意)
    image.png

    Cell不仅可以写代码,还能Markdown

    Markdown是用来写文章的,比如这个简书文章就是用markdown语法写的。
    新建cell可以选markdown用来写代码注释。

    写起来是这样的: image.png
    shift回车运行后是这样的(双击可以返回到修改模式):
    image.png

    更改默认打开的项目

    默认Notebook总是打开电脑中我的文档目录,以下方法可以让它打开指定的目录。
    打开命令行工具输入
    jupyter notebook --generate-config
    然后会返回一个地址,找到它(可能是隐藏文件),用写字板打开那个文件jupyter_notebook_config.py:

    image.png
    然后再顶部添加(等号后面引号内换成你自己的文件夹地址)
    c.NotebookApp.notebook_dir = '/Users/zhyuzh/Desktop/Jupyter'
    然后重新打开Jupyter Notebook就会默认打开这个文件夹了。
    >苹果电脑显示隐藏文件的命令:
    defaults write com.apple.finder AppleShowAllFiles -bool YES
    苹果电脑下复制当前文件夹路径快捷键
    Command+Option+C

    Windows电脑下如果失败,请修改Jupyter Notebook的快捷方式,去掉【属性-目标】中的" %USERPROFILE%" 部分,并确保c.NotebookApp.notebook_dir='D:\\temp\\',后面的目录必须使用双斜线。

    显示全部在运行的Notebook

    命令jupyter notebook list列出全部端口上运行的notebook服务,这里也会显示完整戴token的浏览器地址。
    命令jupyter notebook stop 8898关闭特定端口上的服务,Windows下如果失败的话还是用任务管理器吧,如果任务管理器也找不到它的话,其实它就已经被关闭了,只是windows没更新。

    扩展插件

    插件可以让Notebook变得更好用一些。一般情况我们不需要安装插件,等你使用久了再慢慢了解。
    官方Github插件主题列表
    非官方contrib贡献插件列表
    非官方贡献版插件更多更容易安装些,因为可以一次都装上,要用哪个再开启哪个。
    安装命令:
    conda install -c conda-forge jupyter_contrib_nbextensions
    运行后可能稍等一下才有反应,根据提示按y。
    然后再启用,比如启用collapsible_headings:
    jupyter nbextension enable collapsible_headings/main
    注意/main是必须的。
    collapsible_headings插件可以让Notebook把一个cell折叠起来,在cell菜单下出现insert head cell字样:

    image.png

    这个插件在JupyterLab下面好像不能用。不过Lab自身就可以双击折叠一个cell,比这个更方便些。

    collapsible_headings/main其实是指文件夹collapsible_headings下的main.js文件。所有可用的文件夹名称都可以在电脑里搜索nbextensions文件夹找到。苹果电脑的位置类似/anaconda3/pkgs/jupyter_contrib_nbextensions-0.5.0-py36_0/lib/python3.6/site-packages/jupyter_contrib_nbextensions/nbextensions
    JupyterNoteBook的插件本质都是NodeJs的npm插件。如果你了解nodejs那么很容易搞明白它的原理。

    格式化自动美化代码

    代码整齐很重要!
    对于Python来说混乱的代码格式可能是致命的!
    这里介绍安装code-pretty自动格式化插件,先执行命令开启:
    jupyter nbextension enable code_prettify/code_prettify
    依照官方说明还需要执行另外一个命令安装必要的第三方功能模块:
    conda install yapf
    然后就可以看到Notebook如下图出现一个小锤头工具。点击它就能把当前cell的代码自动格式化变整齐了,也可以使用快捷键Ctrl+L(苹果下也是ctrl不是Command)。

    image.png

    ?输出帮助提示

    比如下图:


    image.png

    运行或载入外部Python文件

    使用%run代码可以直接外部的执行.py文件,比如在Notebook文件夹内有一个a.py文件:
    aa='haha' print(aa)
    那么可以用下面代码直接在Notebook内运行它(注意这里的./表示在同一文件夹下)
    %run ./a print('>>'+aa)

    image.png
    如果使用%load则直接把代码读进来(下面是%load ./a运行的结果):
    image.png

    公式编辑器LaTeX

    Notebook的Markdown单元是支持LateX公式编辑的,比如输入\\( P(A \mid B) = \frac{P(B \mid A) \, P(A)}{P(B)} \\)运行得到下图:

    image.png
    关于LaTeX语法可以在简书里搜索。

    可以保存为.py或pdf文件

    file菜单可以保存为多种格式。

    查找和替换

    edit/find and replace菜单可以弹出对话框如下,点击竖向箭头的小图标可以切换到搜索全部cell单元。此外还支持区分大小写、正则表达式(js语法)。
    如果只是需要找到某些文字(定位到这些文字的位置),可以直接使用浏览器自带的Ctrl+F来查找。

    设置打开密码

    先执行命令jupyter notebook --generate-config,这会生成相关配置文件,然后jupyter notebook password命令输入两次相同的密码,再打开Notebook的时候就会提示要输入密码。
    关闭密码只需要找到jupyter_notebook_config.py文件,/Users/username/.jupyter/文件夹下,Win/Mac都一样,但Mac下这是个隐藏文件夹。修改其中内容,c.NotebookApp.password = ''然后重新打开Notebook就不需要密码了。
    这样看,其实这个密码也没什么用,跟没设置一样。

    去除token限制

    复制地址换到别的浏览器打不开,要求输入token的问题。
    和上面密码一样,修改c.NotebookApp.token = ''并保存可以禁用token。

    快捷键复制行,复制单元cell

    创建并编辑用户文件夹下.jupyter/custom/custom.js文件并进行编辑。
    请参照这个文章进行。
    【编程】编写Jupyter Notebook脚本

    插件设置

    从【编辑-nbextensions config】可以打开扩展设置,直接开启或关闭插件。

    Latex

    行间的公式需要用开头结尾,但是独立行的应该直接写,不要再加了,比如

    \begin{align}
    a = \frac{1}{2} && b = \frac{1}{3} && c = \frac{1}{4} \\
    a && b && c
    \end{align}
    

    Latex公式放大字体

    运行后的Latex公式,右键菜单可以找到【Scale All Math】菜单放大全部。另外的Zoom Factor是指鼠标浮上去的时候字体放大,不实用。

    去掉输出框的阴影

    修改各种样式,可以直接用%%html改css。如下

    %%html
    <style>
    .dataframe td,.dataframe thead th {
        white-space: auto;
        text-align:left;
        border:1px solid;
        font-size:12px
    }
    .dataframe td,.dataframe thead th{
        font-size: 12px;
    }
    div.output_text {
        max-height: 300px;
    }
    div.output_area img{
        max-width:100%
    }
    div.output_scroll{
        box-shadow: none;
    }
    </style>
    

    多行输出

    在Notebook的中开头cell中添加以下代码可以实现多行输出:

    from IPython.core.interactiveshell import InteractiveShell 
    InteractiveShell.ast_node_interactivity = 'all' #默认为'last'
    

    例如:


    如果需要一劳永逸的在每个文件中自动实现这个功能,可以在macOS的/Users/your_user_name/.ipython/profile_default/或者windows的C:\Users\your_profile.ipython\profile_default文件夹下创建ipython_config.py文件。(mac下你可以在终端进入这个目录touch ipython_config.py来创建)。
    然后打开ipython_config.py文件,添加以下两行:

    c = get_config()
    c.InteractiveShell.ast_node_interactivity = "all"
    

    保存,重启Notebook后生效。


    更多设置点这里看官方说明

    感谢离宫2提示这个技巧。

    module 'numpy' has no attribute 'version'

    import pandas as pd就报这个错误,原因未知,解决方法就是-f强制重新安装:

    conda install -f numpy
    conda install -f pandas
    

    智能决策上手系列教程索引

    每个人的智能决策新时代

    如果您发现文章错误,请不吝留言指正;
    如果您觉得有用,请点喜欢;
    如果您觉得很有用,欢迎转载~


    END

    相关文章

      网友评论

        本文标题:JupyterNotebook小技巧合集

        本文链接:https://www.haomeiwen.com/subject/cuhwrktx.html