美文网首页
一文学会conda基本使用

一文学会conda基本使用

作者: 何物昂 | 来源:发表于2022-01-05 19:55 被阅读0次

    Conda 简介

    Conda 是一个开源的包管理系统和环境管理系统,可在 Windows、macOS 和 Linux 上运行。 Conda 可快速安装、运行和更新包及其依赖项。 Conda 可以轻松地在计算机上创建、保存、加载和切换环境。 它是为 Python 程序而创造的,但它可以打包和分发任何语言的软件。

    简单来说,conda可以让我们一行命令安装更新卸载程序,以及进行环境管理。

    下图是一个实际的例子。我用conda 创建了两个虚拟环境:R4 和R41,分别用于运行4.0 和 4.1 的R。而且在各自对应的环境中,安装了相应版本的R包。 下图是vs code界面,我可以很方便的在多个版本间切换, 同时创建多个R控制台,极大提高了效率。(vs code可以通过ssh 连接服务器,所以我现在都很少用RStudio server了。)

    image.png

    Conda 安装

    conda 是包含在 Anaconda 里的。我们安装了Anaconda就可以使用Conda了。

    Anaconda是一个免费开源的Python和R语言的发行版本,用于计算科学(数据科学、机器学习、大数据处理和预测分析),Anaconda致力于简化软件包管理系统和部署。Anaconda的包使用软件包管理系统Conda进行管理。

    Anaconda 有个人版,商业版,企业版,团队版。我们使用个人版,因为其他版本要钱。去https://www.anaconda.com/products/individual 下载。本文,主要在Linux下演示,所以下载Linux版本的。

    image.png

    网络不好,可以去清华镜像下载:

    https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/?C=M&O=D
    

    通过在浏览器点击链接下载,或者复制下载链接来,在命令行下载

    ## 下载
    $ wget -c https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/Anaconda3-2021.05-Linux-x86_64.sh
    ## 查看
    $ ls
    Anaconda3-2021.05-Linux-x86_64.sh
    
    

    安装通过bash 运行

    $ bash Anaconda3-2021.05-Linux-x86_64.sh
    

    下面是一些安装过程中的提示:


    image.png

    按回车键(Enter)。


    image.png

    按回车键,慢慢跳过。或者按q。


    image.png

    输入yes,回车


    image.png

    设置安装地址, 默认是 ">>>" 前面那个地址。使用默认地址,直接回车若自定义按照地址,在">>>"后面输入新的的地址。这里我直接回车


    image.png

    是否conda init 官方推荐yes, 我也yes 回车。不yes的话,你之后得手动设置一下才能用conda
    🤷♀️

    之后就安装成功了。不过最好运行一个命令

    $ conda config --set auto_activate_base false
    

    anaconda 安装好后,默认有一个 base 的环境。不运行上面那命令的情况,每次你打开命令行,终端,都会激活base环境。在anaconda 的环境下,运行命令,会优先调用anaconda环境下的程序。

    比如下图例子,在系统环境下和anaconda base环境下, 两者的python3 地址是不一样的。anaconda 激活环境后,是会在终端前面看到类似这种 " (环境名) "


    image.png

    Channel 管理

    Conda channels 是 软件存储的位置,相当于远程软件仓库。每次conda 软件下载时,都会从远程channel寻找相应的软件。比如bioconda ,一个专门存放生信软件的channel。
    默认远程channel都在国外服务器。很多时候,我们下载安装软件都很慢。所以,我们可能需要修改下默认的channel设置,指向国内。

    Channel 查看

    $ conda config --show channels
    channels:
      - defaults
    

    Channel 添加

    $ conda config --add channels bioconda
    $ conda config --add channels conda-forge
    

    对于官方的channel, 添加channel 名就可以了。若是添加镜像channel 需要提供URL

    $ conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/bioconda/
    

    查看添加的channels:

    $ conda config --get channels
    --add channels 'defaults'   # lowest priority
    --add channels 'bioconda'
    --add channels 'conda-forge'
    --add channels 'https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/bioconda/'   # highest priority
    

    后添加的channel 有更高的优先级, 即在检索软件时,会优先检索更高优先级的channel.

    清华镜像

    上面一个一个添加,有点麻烦,我们就直接使用清华镜像站的提供的channel配置。

    https://mirrors.tuna.tsinghua.edu.cn/help/anaconda/

    打开 ~/.condarc 文件,没有就创建一个。添加下面的内容。

    channels:
      - defaults
    show_channel_urls: true
    default_channels:
      - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main
      - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/r
      - https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
    custom_channels:
      conda-forge: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
      msys2: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
      bioconda: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
      menpo: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
      pytorch: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
      simpleitk: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
    

    然后运行下清除索引缓存,保证用的是镜像站提供的索引。

    conda clean -i
    

    环境管理

    base 环境,建议不要随意的安装程序了。可以根据日常需要创建一些特定的环境来安装程序。我平常一些组学的的软件都会安装到了ngs这个环境中。 运行R ,我创建了两个环境 R4R41 分别用于R 4.0 和 R 4.1 的R软件运行。(其实之前还有个叫R 环境,被搞坏了,就删了。)

    环境创建

    创建一个叫test 的环境
    ### -n 环境名
    $ conda create -n test
    

    激活/退出环境

    $ conda activate test
    $ conda deactivate
    
    image.png

    环境克隆

    环境克隆,就复制一个环境,做个备份。在安装了许多软件后,可以考虑备份一下环境。因为环境使用久了,软件安装的越来越多,指不定哪个时候因为某些操作,软件安装就把当前环境弄出问题了。有个备份还是好的,避免重新安装。

    你也可以把它当作环境的重命名。在删除老环境后。

    克隆test 环境为ngs 环境
    $ conda create -n ngs --clone test
    

    删除环境

    $ conda remove -n test --all
    

    查看环境

    $ conda env list
    # conda environments:
    #
    base                  *  /home/user/anaconda3
    ngs                      /home/user/anaconda3/envs/ngs
    

    软件管理

    可用安装软件查找

    不是每个软件用conda 都能下载安装的。所以用conda安装软件前,应该检索下该软件是否能被conda 安装。
    我们可以直接在搜索引擎 搜索 conda 软件名,比如要安装bedtools:

    image.png

    一般,能搜到,代表可以安装的。

    还可以通过conda 命令搜索。

    conda search bedtools -c bioconda
    
    image.png

    相比命令行,浏览器,可能更加智能一点, 对错误的输入有一定鲁棒性。

    软件安装

    要是用浏览器搜索的话,打开第一个链接, 打开的页面就有安装命令

    ### 在ngs环境下安装使用
    conda activate ngs
    ### -y 确认安装
    ### -c 选择额外通道bioconda
    $ conda install -y -c bioconda bedtools
    

    安装指定版本

    conda install -y -c bioconda bedtools=2.30.0
    

    安装后,我们可以简单确认下是否正确的安装

    $ which bedtools
    /home/user/anaconda3/envs/ngs/bin/bedtools
    

    新创建的环境,都在 envs/目录下

    查看已安装软件

    $ conda list
    # packages in environment at /home/user/anaconda3/envs/ngs:
    #
    # Name                    Version                   Build  Channel
    _libgcc_mutex             0.1                        main    defaults
    _openmp_mutex             4.5                       1_gnu    defaults
    bedtools                  2.30.0               h7d7f7ad_1    bioconda
    bzip2                     1.0.8                h7b6447c_0    defaults
    libgcc-ng                 9.3.0               h5101ec6_17    defaults
    libgomp                   9.3.0               h5101ec6_17    defaults
    libstdcxx-ng              9.3.0               hd4cf53a_17    defaults
    xz                        5.2.5                h7b6447c_0    defaults
    zlib                      1.2.11               h7b6447c_3    defaults
    

    软件更新

    conda update bedtools
    

    软件删除

    $ conda remove bedtools
    
    ####  之后会提示是否确认删除。输入y就好了
    

    Conda 加速

    conda有时使用时会发现很慢的。这里提供一些方案供参考:

    镜像设置

    我猜国内用户,使用conda 慢的的原因,大部分是因为网络问题吧, 参考上面Channel管理,设置下channel镜像。

    channel管理

    channel 是 软件存储的位置。而conda 安装软件时,会从已设置的channel 里寻找软件。不同的通道可能有相同的包。 有多少个channel,它去多少个channel里寻找软件。

    不任意添加channel

    举个例子,在查询requests时,conda只会查询当前设置的channel。当我们再添加一个channel时,conda就会查询添加的。

    
    $ conda search requests
    Loading channels: done
    # Name                       Version           Build  Channel
    requests                      2.18.4  py27hc5b0589_1  anaconda/pkgs/main
    requests                      2.18.4  py35hb9e6ad1_1  anaconda/pkgs/main
    requests                      2.18.4  py36he2e5f8d_1  anaconda/pkgs/main
    requests                      2.19.1          py27_0  anaconda/pkgs/main
    requests                      2.19.1          py35_0  anaconda/pkgs/main
    requests                      2.19.1          py36_0  anaconda/pkgs/main
    
    ## 添加一个channel, 测试完这个,我就把这个channel从~/.condarc里删除了
    $ conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge/
    $ conda search requests
    Loading channels: done
    # Name                       Version           Build  Channel
    requests                       2.9.2          py27_0  conda-forge
    requests                       2.9.2          py34_0  conda-forge
    ......
    requests                      2.18.4  py27hc5b0589_1  anaconda/pkgs/main
    requests                      2.18.4          py35_0  conda-forge
    requests                      2.18.4          py35_1  conda-forge
    requests                      2.18.4  py35hb9e6ad1_1  anaconda/pkgs/main
    requests                      2.18.4          py36_0  conda-forge
    requests                      2.18.4          py36_1  conda-forge
    requests                      2.18.4  py36he2e5f8d_1  anaconda/pkgs/main
    

    所以因此,我们容易想到,不要随意的添加channel, 因为添加的越多。conda需要查询的channel 就越多,导致
    速度变慢。添加镜像时,添加几个速度快的,核心的,包含常用的软件的安装的channel。就行了。

    指定channel

    除了添加channel 外,我们也可以在命令行指定某个channel。

    $ conda search r-rsqlite
    Loading channels: done
    # Name                       Version           Build  Channel
    r-rsqlite                      1.0.0        r3.1.3_0  anaconda/pkgs/r
    r-rsqlite                      1.0.0       r3.1.3_0a  anaconda/pkgs/r
    r-rsqlite                      1.0.0        r3.2.0_1  anaconda/pkgs/r
    r-rsqlite                      1.0.0       r3.2.0_1a  anaconda/pkgs/r
    
    $ conda search r-rsqlite -c conda-forge
    Loading channels: done
    # Name                       Version           Build  Channel
    r-rsqlite                      1.0.0        r3.1.3_0  anaconda/pkgs/r
    r-rsqlite                      1.0.0       r3.1.3_0a  anaconda/pkgs/r
    ....
    r-rsqlite                      1.0.0        r3.3.1_2  anaconda/pkgs/r
    r-rsqlite                      1.1_1        r3.3.1_0  anaconda/pkgs/r
    r-rsqlite                      1.1_1        r3.3.2_0  anaconda/pkgs/r
    r-rsqlite                      1.1_2        r3.3.2_0  conda-forge
    r-rsqlite                      1.1_2        r3.4.1_0  conda-forge
    
    $ conda search r-rsqlite -c conda-forge --override-channels
    Loading channels: done
    # Name                       Version           Build  Channel
    r-rsqlite                      1.1_2        r3.3.2_0  conda-forge
    r-rsqlite                      1.1_2        r3.4.1_0  conda-forge
    r-rsqlite                        2.0        r3.3.2_0  conda-forge
    r-rsqlite                        2.0        r3.4.1_0  conda-forge
    r-rsqlite                        2.0  r341hfc679d8_1  conda-forge
    r-rsqlite                      2.1.1  r341h9d2a408_0  conda-forge
    

    -c/--channel 是添加额外查询软件的channel, 并不是指定查询channel。 若要指定为查询channel 可以再添加个参数--override-channels

    设置channel 优先级

    不同的通道可能有相同的包, 而conda 需要解决不同通道相同包的冲突问题。所以conda 查询channel 时有个优先级的概念。

    $ conda config --describe channel_priority
    # # channel_priority (ChannelPriority)
    # #   Accepts values of 'strict', 'flexible', and 'disabled'. The default
    # #   value is 'flexible'. With strict channel priority, packages in lower
    # #   priority channels are not considered if a package with the same name
    # #   appears in a higher priority channel. With flexible channel priority,
    # #   the solver may reach into lower priority channels to fulfill
    # #   dependencies, rather than raising an unsatisfiable error. With channel
    # #   priority disabled, package version takes precedence, and the
    # #   configured priority of channels is used only to break ties. In
    # #   previous versions of conda, this parameter was configured as either
    # #   True or False. True is now an alias to 'flexible'.
    # #
    # channel_priority: flexible
    

    设置channel priority 为 strict, 对于相同软件名,只会考虑最高优先级的channel。Conda 4.6.0 开始有了strict 特性。strict 的通道优先级可以显着加快 conda 操作并减少包不兼容问题。 官方建议将其作为默认设置。但是,它可能会破坏旧的环境文件。所以可能在Conda 5.0 时, 官方可能计划将其设置为 conda 的默认设置。
    现在的话, 对于才开始用conda 的同学来说,可以考虑设为strict

    $ conda config --set channel_priority strict
    

    使用Mamba

    Mamba 使用C++对conda 的重实现:

    • 支持并行下载,对包文件多线程处理
    • 用libsolv 来更快的解决软件依赖关系
    • C++ 实现软件核心功能,来获取更大效率

    mamba 用法和conda 一样。除了 激活/退出环境,需要用 conda 外。其余一样。
    mamba 安装

    $ conda install mamba -n base -c conda-forge
    

    其他

    指定软件版本

    在安装软件时,指定版本号安装。

    $ conda install bedtools=2.30.0 -c bioconda
    
    新环境安装软件

    创建一个新的环境,来安装软件。

    参考

    https://zh.wikipedia.org/wiki/Anaconda_(Python%E5%8F%91%E8%A1%8C%E7%89%88)#cite_note-2
    https://docs.conda.io/projects/conda/en/latest/
    https://www.jianshu.com/p/edaa744ea47d
    https://www.anaconda.com/blog/understanding-and-improving-condas-performance

    相关文章

      网友评论

          本文标题:一文学会conda基本使用

          本文链接:https://www.haomeiwen.com/subject/seskcrtx.html