联邦学习初探

作者: 飞驰2019 | 来源:发表于2019-07-22 19:11 被阅读0次

    随着机器学习技术的逐渐成熟,单纯依靠算法能够获得的效果提升已经逐渐触顶。在很多应用场景中,由于受限于数据(特征),往往很难得到理想的效果。以金融风控为例,对于以往缺少借贷记录的用户(即白户),仅仅依已有的数据,通常很难进行合理的信用评估。对于此类情况,按照以往的做法,需要借助第三方扩充有效特征。

图  1

    这样的做法看似可行,却并非好的解决方案。一方面,为了维护用户隐私,第三方提供的多为粗粒度标签特征(如兴趣爱好,年龄范围等),此类特征在具体应用下的有效性非常有限。而另一方面,即便是粗粒度的标签特征,仍然存在一定程度上隐私泄露。在个人隐私越来越受到重视的时代背景下,这种模式注定很难走得远。

    联邦学习的出现正是为了解决以上问题。从架构上来说,联邦学习的做法可以看成将一个大的模型分解成了多个分布在独立环境的子模型,而训练过程则可以看做是这多个子模型的协同(join)。不同于以往的做法,在联邦学习中,子模型之间的协同不涉及用户数据(特征)的传输,仅仅传输局部预测结果和梯度即可,从而从根本上杜绝了数据泄露的风险。在这种模式下,各方可以充分利用自身的数据,从而大大提升最终效果。

图 2

    显而易见的是,联邦学习对于企业合理合法地拓宽数据边界具有很大意义。然而作为一个相对年轻的技术体系,仍然有许多问题需要在实践中探索。如多方数据的匹配度问题,协同训练的性能问题等。值得注意的是,在微众银行近期开源的FATE项目中,上述问题都有了初步的解决方案。关于这方面的内容,在日后结合FATE分析和总结。

相关文章

  • 联邦学习初探

    随着机器学习技术的逐渐成熟,单纯依靠算法能够获得的效果提升已经逐渐触顶。在很多应用场景中,由于受限于数据(特征...

  • 联邦学习角色视图

    联邦学习生态中,包含三种角色:用户,联邦学习参与方,协调方。 联邦学习用户 联邦学习用户可以是自然人或代表该自然人...

  • 联邦学习

    有道是,不懂技术的专利代理师跟咸鱼有什么区别。。。 本系列旨在总结“办案”(听起来很牛逼的样子,其实就是码字)过程...

  • 机器学习| 第二周:监督学习(1)

    本节主要内容: 机器学习学习路径初探;监督学习相关知识 1. 机器学习学习路径初探 刚开始入门机器学习,好的学习路...

  • 联邦学习,你还不懂么?

    初识联邦学习 最早知道联邦学习是在今年6月参加的O‘Reilly AI大会上,谷歌的session介绍了他们用联邦...

  • 联邦学习-安全树模型 SecureBoost之Desicion

    联邦学习-安全树模型 SecureBoost之Desicion Tree 1 联邦学习背景 鉴于数据隐私的重要性,...

  • 联邦学习框架FATE学习笔记

    联邦学习分为横向学习和纵向学习两类 1横向联邦学习 解决数据不够多的问题。双方各自有样本(特征值和标签),拥有共同...

  • KVO学习笔记

    1.KVO初探学习2.KVO 底层原理探索 1.KVO初探学习 移除观察者的重要性 (IOS11之后说不移除是不对...

  • Apache Pulsar 在腾讯 Angel PowerFL

    腾讯 Angel PowerFL 联邦学习平台 联邦学习作为新一代人工智能基础技术,通过解决数据隐私与数据孤岛问题...

  • 联邦机器学习介绍

    本文介绍联邦机器学习,这是机器学习领域正在探索的最新和最着名的方法之一,它侧重于利用分布式系统的力量来训练和增强机...

网友评论

    本文标题:联邦学习初探

    本文链接:https://www.haomeiwen.com/subject/vjqchctx.html