
原标题:微众银行分布式机器学习算法“联邦学习”的三种学习形式
微众银行分布式机器学习算法“联邦学习”的三种学习形式
2019年国际人工智能大会在上海世博会中心拉开帷幕,海内外大咖齐聚,学术界、工业界交汇,一起评论人工智能的未来。“联邦学习”,英文叫“Fed-erated Learning”,数据的各个拥有方,在各自数据不出本地的情况下树立模型,而且让这个模型可以同享,那么在树立模型的进程中便不会侵略用户的隐私,整个建模的进程就叫联邦学习的结构和算法。
微众银行首席人工智能官杨强教授也在大会中表明:联邦学习渐渐的变成了AI在学术界和工业界的新趋势,未来职业面对的社会群众的要求和监管会渐渐的严厉,联邦学习可以在满意用户隐私维护和数据安全需求的一起,完成多方共赢。微众
微众银行
Google在2016年就开端进行一个项目,在安卓体系的手机用户中树立联邦学习,处理用户个人终端设备的数据隐私问题。首要初始化模型下载到各终端,各终端经过你自己自身的数据更新模型参数,不同的终端就会发生不同的更新成果,这些更新被送到云端进行聚合,汇总后的模型参数将作为下一次更新的初始参数,这样一向迭代直到收敛。用这样的一个办法既能确保用户隐私,一起又能同享一个通用模型,使用集体智能在云端不断更新。WeBank
微众银行分布式机器学习算法“联邦学习”的三种学习形式
这样的模型不只需求一个机器学习算法,更需求一个分布式的机器学习算法。在分布式的机器学习算法之上,还要有各种加密的算法。在这个基础上,一共有三种形式来进行联邦学习。微众银行
第一种叫做横向联邦学习
横向联邦学习是指当两个数据集的用户不同,堆叠较少,但用户特征堆叠较多时,咱们把数据集依照横向(即用户维度)切分,并取出两边用户特征相同而用户不完全相同的那部分数据进行练习。
第二种叫做纵向联邦学习
纵向联邦学习是说两个数据集的用户特征堆叠较少,但它们却有较多的堆叠用户,那么咱们就把数据集依照纵向(即特征维度)切分,并取出两边用户相同而用户特征不完全相同的那部分数据进行练习。
第三种叫做联邦搬迁学习
假如两个数据集既不堆叠用户特征,又不堆叠用户,那么在这个场景下,微众银行也提出一个新的算法,叫做联邦搬迁学习。它可经过搬迁学习的算法,把这两方数据模型的实质发掘出来,把笼统的模型加以聚合,在聚合的进程中维护用户隐私,也取得了非常大的成功。
责任编辑:
