美文网首页
Spark异构分布式计算平台架构

Spark异构分布式计算平台架构

作者: 九七学姐 | 来源:发表于2017-04-10 09:06 被阅读158次

1.基于Spark的异构分布式深度学习平台——百度的spark on PADDLE
http://geek.csdn.net/news/detail/58867
还未开源

2.分布式机器学习框架——谷歌的TensorFlow on Spark
https://my.oschina.net/u/2306127/blog/634189 (中文翻译版)
原文:https://databricks.com/blog/2016/01/25/deep-learning-with-spark-and-tensorflow.html

3.基于Hadoop/Spark的分布式深度学习——雅虎的CaffeOnSpark
http://dataunion.org/22172.html

  1. CaffeOnSpark和SparkNet的区别
    CaffeOnSpark在参数的同步/管理操作上和SparkNet是完全不同的:CaffeOnSpark executors之间通过MPI_ALLREDUCE接口通信(通过底层RDMA/Infiniband或者TCP/Ethenet来保证GPU间高速的数据传输,10X于CPU)。在这种通信模式下,各个节点/caffe引擎之间是peer-to-peer的模式;而SparkNet的设计中依然保留了Spark的主/从模式。
    总结:
    二者的相同之处在于两者都使得Spark集群下基于Caffe的深度学习成为可能。而二者的最显著的不同在于两者在系统框架设计中对于参数同步所采用的不同方案。

相关文章

  • Spark异构分布式计算平台架构

    1.基于Spark的异构分布式深度学习平台——百度的spark on PADDLEhttp://geek.csdn...

  • OpenCL简介

    OpenCL是一个异构计算平台,Khronos Group将OpenCL的异构并行计算架构划分为平台模型(plat...

  • Spark 笔记

    Spark Spark是什么 Spark是一个用来实现快速而通用的集群计算的平台。 Spark软件架构 Spark...

  • Spark概念及使用简介

    Spark是什么? Spark是一个分布式计算平台(Hadoop是一个包含分布式计算、存储、管理的大数据生态系统)...

  • 分布式计算框架Spark

    分布式计算框架Spark是什么 分布式计算框架Spark是什么?快速的分布式计算框架 官网Spark 和 MapR...

  • Spark在美团的实践

    问题导读: 1、美团离线计算平台架构都有那些框架? 2、为什么要使用spark架构? 3、spark推广过程中需要...

  • 美团使用Spark的实践

    目录 美团离线计算平台架构都有哪些框架? 为什么要使用Spark架构? spark推广过程中需要注意哪些方面? 前...

  • Spark在美团的实践

    目录 1. 美团离线计算平台架构都有哪些框架? 2. 为什么要使用Spark架构? 3. spark推广过程中需要...

  • Hadoop学习-基础篇

    Hadoop 大数据平台与架构 功能与优势 Hadoop是大数据存储与分析的架构,是分布式存储和分布式计算平台 两...

  • Spark架构模式与Flink的对比

    Spark架构模式与Flink的对比 Spark和Flink都属于流批一体的分布式计算引擎。Flink属于流处理框...

网友评论

      本文标题:Spark异构分布式计算平台架构

      本文链接:https://www.haomeiwen.com/subject/jabbmttx.html