美文网首页
深度学习学前须知及常见问题

深度学习学前须知及常见问题

作者: 朱小泡 | 来源:发表于2018-04-18 17:22 被阅读0次

    如何提问

    可以看看这篇文章:提问的智慧55

    简单来说:

    1. 根据报错信息自己判断哪段代码出问题,原因是什么,并尝试修改代码

    2. 善用搜索,通过Google和stackoverflow查看类似问题及解决方法

    3. 优达学城DLND论坛,先用右上角的搜索看看是否有一样的问题帖子,然后到对应项目的子版块发帖。

    - 使用有意义且描述明确的标题,比如报错关键词

    - 帖子内容先附上课程详细链接

    - 标明运行环境(系统,版本等)

    - 详细报错信息

    - 尝试的解决方案(这个很重要,有利于别人用排除法节省分析时间)

    注: 不要直接在群里或论坛贴代码! 考核内容不能直接贴出来否则会违反Honor Code35。先自己尝试提炼有效信息和自己的分析,结合 完整报错信息来提问。

    提供 文本报错信息,尽量不要用截图,绝对不要用曝光不足、失焦的低分辨率手机照片。

    报错信息过长不要发微信群,影响他人查看其他回复,直接发论坛。

    深度学习论坛子版块:

    深度学习第一学期基础课程14

    深度学习第二学期

    1. 神经网络158

    P1神经网络常见问题

    2. 卷积神经网网络99

    P2狗狗种类分类常见问题

    3. 循环神经网络72

    P3生成电视剧剧本常见问题

    4. 生成对抗网络58

    P4生成人脸常见问题

    5. 深度强化学习

    旧版课程项目备份

    P2图像分类常见问题 

    P4语言翻译常见问题

    优达学城论坛支持markdown格式编辑,这里有个教程37,也可以参考这篇论坛快速指南。结合论坛的实时预览可以快速熟悉用法。

    翻译报错

    如果发现翻译或内容有误,可以在这个版块4发帖。

    标题格式:课程名称-部分-课-节-标题-错误

    如:DLND-P1-9.神经网络入门-13.实现梯度下降-错别字

    内容截图圈出错误,或者复制粘贴然后标红错误即可。

    前置技能

    计算机科学导论Python89

    微分方程132 

    线性代数99

    付费课程(可选)

    Python 入门25

    硬件要求

    无要求。因为:

    1. 第2个项目第8课云计算会教你利用AWS的带GPU实例进行计算,还可申请$100的Credits111

    P2课程解锁后才会发AWS优惠码邮件,且有一定延迟,没收到的话查看一下垃圾箱。

    AWS相关问题见P2图像分类常见问题 

    2. 项目使用的训练集较小,即便本地用CPU运算时间也是在可忍受范围。

    如果需要本地运算,建议使用带nvidia独显的机器,具体支持列表在下文tensorflow部分。

    若选择用GPU运算,则对CPU的要求不高,GPU显存建议至少4G。

    最低配置:

    奔腾G4560

    8G RAM

    nVIDIA GTX 1050TI (升1060要选6G版)

    推荐配置:

    i5 6500

    16G RAM

    nVIDIA GTX 1070

    另:如果需要长期跑项目且对虚拟化无需求的话,性价比最高的卡是1080Ti,能耗比最高是1080。

    环境搭建

    Anaconda

    本课程用的python3(win的话要用3.5),tensorflow用1.0.1,如果你还报了机器学习的话那边前期要用py2.7。为了让这些不同环境共存,更重要的是别影响到系统环境,所以环境管理和包管理conda应运而生。

    Q: anaconda有两个版本,装哪个?

    A: anaconda92是发行版,选2或者3影响的是root环境和捆绑包的版本。主要是为了用包管理器conda,而这是独立于python版本的。如果对anaconda自带的常用包,UI,IDE不感兴趣的话可以单独安装conda46,然后按需自建环境即可。

    下载缓慢可在国内镜像下载:清华46 科大18

    更换国内源

    国内由于不可描述的原因,访问官方源很慢,这时就需要换用国内源。推荐清华源79或者科大源29

    conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/

    conda config --set show_channel_urls yes

    常见问题

    要装的包tuna没有,官方源连接不畅

    可以更改~/condarc文件,添加代理,但 装完后记得改回来 。

    没事别加代理!

    proxy_servers:

        http: http://127.0.0.1:1080

        https: https://127.0.0.1:1080

    改了还在用官方源,下载缓慢

    解决方法简单粗暴:删掉channels下最后一项 - default,只保留tuna源。

    新建python环境

    新建一个py3.5的DLND项目环境:

    conda create -n dlnd python=3.5

    注:如果你的操作系统是win,那么tensorflow要求py必须是3.5.x54。linux无此限制,所以python=3即可。

    所有的练习和项目都可以用这一个dlnd环境完成,缺啥装啥,不会冲突,没必要像课程里那样做个练习就要新建环境,占用不必要的空间。只有极少数练习是用py2写的,不过代码很简单,print加括号就能用py3跑了。

    用conda或pip安装依赖包以及打开notebook前一定要 先激活对应环境

    activate dlnd

    Linux则执行source activate dlnd

    安装jupyter notebook

    conda install jupyter notebook

    注:如果略过此步直接启动notebook的话调用的将是root环境自带的notebook,则kernel会与root一致,而不是dlnd环境下python版本。

    所有项目均用notebook来完成,而且下载的初始ipynb已提供了代码框架,数据载入和部分预处理及训练代码已提供,注意审题。

    使用pycharm, eclipse, vs code之类的最终还是要放到notebook上执行,输出显示正确后才能提交。所以这里再强调 用notebook完成练习和项目。市面上IDE众多,不同系统配置方式也有区别,除了notebook之外其他均不提供技术支持。如果仍坚持不用notebook,而自用IDE却由于配置不当造成的奇葩问题自行解决。

    安装tensorflow

    注:不要用默认参数装最新版本(1.4)的tf, 中文项目用的是1.0.1!

    以下步骤针对的是windows环境的安装,Linux的话自行将包替换成对应版本地址135即可。

    注:不推荐用conda安装,装的是社区包,官方并不支持,由此产生的问题自行解决。

    CPU版(Win)

    pip install --ignore-installed --upgrade https://storage.googleapis.com/tensorflow/windows/cpu/tensorflow-1.0.1-cp35-cp35m-win_amd64.whl

    Linux14

    Mac29

    GPU版(Win)

    如果你的显卡是nvidia的而且支持CUDA Compute Capability 3.0以上(6系之后高于50甜点卡的型号),那么可以用GPU进行运算,详见支持设备列表137

    1. 安装CUDA® Toolkit 8.071

    先装Base Installer,然后Patch 2。CUDA自带驱动很旧,记得取消勾选,只装CUDA。

    2. 安装cuDNN v5.147

    解压到cuda8.0的安装文件夹,默认C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v8.0

    3. 安装tensorflow 1.0.1 with GPU

    pip install --ignore-installed --upgrade https://storage.googleapis.com/tensorflow/windows/gpu/tensorflow_gpu-1.0.1-cp35-cp35m-win_amd64.whl

    Linux28

    安装完成后的测试代码:

    importtensorflowastfhello = tf.constant('Hello, TensorFlow!')sess = tf.Session()print(sess.run(hello))

    测试是否用上GPU

    importtensorflowastfprint(tf.test.gpu_device_name())

    正常会输出/gpu:0

    常见问题

    安装很慢,连不上?

    方法一:使用科大源49

    例:tf安装下载超时,改了之后执行pip install tensorflow==1.0.0即可。

    方法二:加proxy的参数通过代理安装,如:

    pip --proxy http://127.0.0.1:1080 install tensorflow

    tensorflow_xxx is not a supported wheel on this platform.

    用conda info查看系统信息,如果是32位的话官方不支持,需自己从源码编译。但32位系统内存上限4G,用来进行训练是不够用的,建议换台计算机。

    学习资源

    讨论组

    中文论坛65

    英文论坛23

    Slack讨论组42 (需填入ud注册邮箱,然后点击Get my invite,查收邮件)

    微信通关群

    像RPG一样打怪通关,项目审核通过后填写通关申请表(链接见通关群群公告),助教会很快收到邮件,然后拉你进入下一个项目的群。记得退掉旧群,方便问题定位和学员管理。

    注:确保你已经顺利通过项目后再提交通关申请表,项目提交页面会出现“恭喜! 你已顺利完成此项目”字样,如下图所示:

    微信昵称填 群昵称 而不是微信号。

    提交申请表时review链接为“查看已提交项目”点进去后的链接,不是你提交项目的github地址。

    助教会在群里发布已通关同学的经验心得,@到的也请冒个泡方便加人进下一个群。

    教材

    Deep Learning60 by Ian Goodfellow 中文电子版171 纸质书58

    Neural Networks and Deep Learning16 by Michael Nielsen 中文电子版47

    免费基础课程

    描述统计学入门44

    推论统计学入门30

    NumPy和Pandas100

    速查手册

    微积分60

    线性代数39

    统计25

    Numpy 简洁40 详细27

    Tensorflow API11(需翻墙)谷歌CN镜像1 DevDocs镜像11

    FAQ

    个别扩展资料网页打不开,连接被重置

    有两个解决方法:

    使用代理,推荐买个VPS搭SS,方法网上搜。

    改hosts33,免费,但仍然看不了youtube,且需经常更新。

    练习的notebook点击链接下载不了

    方法一:同上。

    方法二:git clone https://github.com/udacity/cn-deep-learning36

    这是中文版的所有项目和练习notebook,然后按目录名去找,英文版在这里8

    运行cell卡在下载数据集了

    查看代码或中止kernel查看输出报错,找到数据集下载地址,用下载软件(迅雷)或云端离线下载(百度云)。论坛也提供了数据集下载镜像

    英伟达官网抽风/tensorflow安装总是失败

    可以先装conda的社区包凑合着用

    CPU版

    conda install tensorflow=1.0

    GPU版

    conda install tensorflow-gpu=1.0

    注:用这种方式安装会自动装上conda的cuda和cudnn,系统不用另外安装,即便装了调用的也是conda的社区版本。conda的win64通道已经删掉1.0,故需装1.1选英文版项目来做。且 win仍需在系统装CUDA和cuDNN,否则会缺DLL。

    英文版项目已全部更新为tensorflow 1.1版,若用英文界面做练习和项目需升级tf。

    项目过期未提交

    项目页面显示的时间为建议完成时间,并非deadline。在课程规定的有效期内提交并通过所有项目审核即可。

    毕业后还能查看课程吗?

    有效期内成功毕业则拥有已学内容的永久访问权限。若过期未毕业则需重新报名才能再次获得权限。

    相关文章

      网友评论

          本文标题:深度学习学前须知及常见问题

          本文链接:https://www.haomeiwen.com/subject/vacbkftx.html