美文网首页
联邦学习框架FATE学习笔记

联邦学习框架FATE学习笔记

作者: HJ很忙 | 来源:发表于2020-03-14 22:22 被阅读0次

联邦学习分为横向学习和纵向学习两类

1 横向联邦学习

解决数据不够多的问题。双方各自有样本(特征值和标签),拥有共同的数据特征和数据标签,FedAverage算法,支持深度学习。各自训练自己小模型,加上随机数(保密)后放到第三方去优化,第三方汇总后,随机数彼此抵消,优化模型。再把优化后参数返回给他们。不存在把数据给对方或者一个第三方。

2 纵向联邦学习

解决特征(或结果)不够多的问题。一方有样本的特征值,另一方有其他特征值,或者有样本的数据标签(结果表现)。前者没有数据标签无法训练参数,所以要和后者先进行样本匹配,然后交换数据(中间值)。

2.1-纵向联邦学习的第一步

基于隐私保护的样本匹配(样本对齐)

 A有u1,u2,u3,u4数据,B有u1,u2,u3,u5数据,彼此交换后,A和B共同有u1,u2,u3数据,分别保留自己的u4和u5数据。

Step1 B把n和e作为公钥发给A

Step2 A把e作为随机数的指数,乘上自己数据的哈希值。得到Ya返回给B。因为有随机数,所以B无法知晓A的原始数据。

Step3 B用私钥d作为Ya的指数,根据费马小定理,用d加幂后就等于随机数乘上(A数据哈希值)的d次方。得到Za

Step4 B先对自己数据取哈希值,再用私钥d作为指数,再取一次哈希值,得到(B数据哈希值d次方)的哈希值,Zb,连同Za一起返回给A。由于A不知道B的私钥d,所以他无法解开Zb,无法知晓B的原始数据。

Step5 A拿到Za后,先除以自己的随机数,得到(A数据哈希值)的d次方,再做一次哈希。得到(A数据哈希值d次方)的哈希值,Da

Step6 A将Da和Zb取交集。因为两者都是(数据哈希值d次方)的哈希值。

Step7 A将交集返回给B,双方各自获得交集数据

2.2 数据工程

A有x,B有x,y

Step1 B对y和(1-y)做同态加密,连同对应id一起发给A

Step2 A根据收到的一组id,找出其对应的一组x,然后加总并加密后返回B

Step3 B获得对x后解密,得到加总的x,然后做本地运算。

2.3 模型训练

A把特征数据加密运算后给B,B和标签比对后计算得到中间值梯度,给第三方,第三方再优化梯度,调整A和B的参数,再计算梯度,再给第三方,最终结果。

相关文章

  • 联邦学习框架FATE学习笔记

    联邦学习分为横向学习和纵向学习两类 1横向联邦学习 解决数据不够多的问题。双方各自有样本(特征值和标签),拥有共同...

  • 隐私计算FATE-核心概念与单机部署

    一、说明 Fate 是一个工业级联邦学习框架,所谓联邦学习指的就是可以联合多方的数据,共同构建一个模型; 与传统数...

  • 联邦学习开源框架Fate主要更新

    背景 FATE (Federated AI Technology Enabler) 是微众银行AI部门发起的开源项...

  • FATE单机部署

    简要说明 FATE是微众银行发出的联邦学习(FL)开源框架,目前在GITUB上有源码,本文对用docker部署的单...

  • Fateflow

    1. 简介 FATE-Flow是用于联邦学习的端到端Pipeline系统,它由一系列高度灵活的组件构成,专为高性能...

  • 联邦学习角色视图

    联邦学习生态中,包含三种角色:用户,联邦学习参与方,协调方。 联邦学习用户 联邦学习用户可以是自然人或代表该自然人...

  • 联邦学习

    有道是,不懂技术的专利代理师跟咸鱼有什么区别。。。 本系列旨在总结“办案”(听起来很牛逼的样子,其实就是码字)过程...

  • Android数据库框架 - LitePal

    Android数据库框架 - LitePal学习笔记

  • 20160923 学习笔记 express框架

    20160923 学习笔记 express框架 安装 espress express框架文件 相关知识 http:...

  • 学习笔记-框架

    感谢并不相识的朋友,把他的所学分享于我,在这里再次说声谢谢,真的非常感谢! 日醒难以做到,日学可以坚持。今天学习的...

网友评论

      本文标题:联邦学习框架FATE学习笔记

      本文链接:https://www.haomeiwen.com/subject/dfvoshtx.html