美文网首页
2018-10-16 深度神经网络的入门学习之旅

2018-10-16 深度神经网络的入门学习之旅

作者: 杨廣xiang | 来源:发表于2018-10-15 22:43 被阅读0次

    好久没有更新。最近又学到不少知识,记录一下。8月份,试用了 end-to-end 的 DCNN 来学习人类驾驶。但最终的比赛中,仍是 rule-based 结合 深度神经网络效果是最快的。

    CNN

    为了识别路牌,学习了CNN。使用这个网络可以很好的对图片进行分类。

    1. 数据的准备

    2. 训练和验证

    3. 性能测量

    4. 用于目标检测

    Faster R-CNN

    这个是为了目标检测。从知道这个技术到跑通,只用了大约两天的时间。身后有狗,就是跑的快。

    跑通这个网络的主要要解决的问题是:如何使用自己的数据,建立 Fster R-CNN模型。网上有不少人写出来自己的过程,我写出我的过程。

    1. 找到合适的开源代码

    https://github.com/dBeker/Faster-RCNN-TensorFlow-Python3.5

    需要在Windows下运行,并使用的是TensorFlow。支持这个要求的只有这个项目。

    2. 建立环境

    这个开源项目必须要使用Python 3.5.0。手工安装后,在安装相关的 pip 包时,遇到问题。一个包没有合适的源。所以,转而使用 Anaconda。

    Anaconda 最新的版本里,建立 Python 3.5 环境时,安装的已经是 Python 3.5.X,而不是 3.5.0。 所以又向前找 Anaconda 的旧的版本。它的 2.4.0 和 2.5.0 里安装的是 Python 3.5.0。

    3. 明确需要准备哪些数据

    为了降低工作量,也就是说,不要修改代码,我们最好顺从项目本身对数据规格的要求。包括,文件名,XML文件的格式,目录结构等。对于 Faster R-CNN来说,有两套数据集,也就对应了两套数据格式: MS Coco 和 VOC2007。

    这个项目支持的是后者。那我们就按后者要求的数据格式来。

    Faster R-CNN,需要下面的数据:

    预训练的 VGG16模型 或是 Res101,或是基它的特征抽取模式。(这个项目支持的是 VGG16)

    训练用的图片

    每个图片对应的区域标注数据(以文件形式。VOC2007是XML文件,还有一种是TXT)

    4. 准备数据的过程

    预训练模型在开源项目Faster-RCNN-TensorFlow-Python3.5的网页上有下载地址,可以直接下载。5xxMB

    训练用的图片就需要自己收集 或是 采集。大约180张左右。

    标注数据,可以使用这个开源软件 labelImg 来制作。软件会为每个图片单独生成一个xml文件。

    图片数据按上面的目录结构安放。

    Annotations 放 XML 文件。

    ImageSets 放 索引文件(文本),指明那些文件是用于训练,那些是用来评估。

    JPEGImages目录下放 jpg文件。文件名最好是000001.jpg ~ 999999.jpg。

    另外一个注意点是,数据的完全绝对路径中不要用中文。

    上图中有一个 gen_main.py 程序,这个是用来生成 ImageSets 中的索引文件的。这些索引文件格式很简单,就是一个纯文本的列表文件。

    文件内容就是一行一行的文件名(不带扩展名)。训练程序根据这些文件的指引,加载图片。

    5. 训练和验证

    在开始前,注意要修改代码中的 class 数量。比如,我这里只有一个类,就需要把代码中的设置为1。

    执行 项目 Faster-RCNN-TensorFlow-Python3.5-master 中的 train.py 就可以开始训练了。

    执行项目中的 demo.py 就是验证。

    生成的模型会在下面的目录中:    

    6. 解决性能问题

    在 Faster-RCNN-TensorFlow-Python3.5-master\lib\config 里的 config.py 文件中,是有很多参数可以修改的。通常我们不需要修改。

    为了性能的需求,我修改了下面的几个参数:

    rpn_top_n  ,这个是 用来评估的 proposals 的数量。越大,就意味着越多的计算。设置小了,可能会不准确。

    最初,这个值是300,分析一个图片,需要1.9秒。把这个参数设置为1,需要0.9秒。但仍不满足要求。

    DQN 与 Deepmind

    以上两个,都是为了图像识别。这个则是为了解决打牌的问题。让AI自己学习如何打红心,并自行训练,提高自己的战力。类似与 Alphamaster,就是 AlphaGo的升级版,可以自我对战,学习,提高。

    目前比赛中,水平最高的,已知其使用的是MCTS算法。算是轻度AI了。我使用DQN写的,战力很弱,也许需要训练1亿轮才行?目前一天只能练150万轮。当然,这是我的猜测。

    总结

    以上,都是知其然,而不知其所以然,不过,DL 或者说 深度神经网络 最终一定是演变成 engine or SDK。软件工程师只需要使用它们就好。可以解决问题就OK。

    参考

    https://www.corelan.be/index.php/2011/07/14/mona-py-the-manual/

    optiva-framework  -  scan tools

    https://blog.csdn.net/hongxingabc/article/details/79039537

    https://blog.csdn.net/gvfdbdf/article/details/52214008

    https://blog.csdn.net/sinat_30071459/article/details/50723212

    https://blog.csdn.net/j497205974/article/details/80074494

    https://blog.csdn.net/weixin_40920228/article/details/79561524

    https://cloud.tencent.com/developer/article/1010754

    http://blog.leanote.com/post/braveapple/%E5%A6%82%E4%BD%95%E4%BD%BF%E7%94%A8%E8%87%AA%E5%B7%B1%E6%95%B0%E6%8D%AE%E9%9B%86%E8%AE%AD%E7%BB%83Faster-RCNN%E6%A8%A1%E5%9E%8B

    https://www.jiqizhixin.com/articles/2018-02-23-3

    https://zhuanlan.zhihu.com/p/31772360

    https://blog.csdn.net/weixin_31200719/article/details/81220924

    https://medium.com/@jonathan_hui/object-detection-speed-and-accuracy-comparison-faster-r-cnn-r-fcn-ssd-and-yolo-5425656ae359

    https://zhuanlan.zhihu.com/p/32230004

    https://zhuanlan.zhihu.com/p/32404424

    相关文章

      网友评论

          本文标题:2018-10-16 深度神经网络的入门学习之旅

          本文链接:https://www.haomeiwen.com/subject/jimpbftx.html