《電子技術(shù)應(yīng)用》
您所在的位置：首頁 > 通信与网络 > 设计应用 > 一种隐私保护的联邦学习框架
一种隐私保护的联邦学习框架
2022年电子技术应用第5期
杨东宁1，2，谢潇睿1，吉志坤3，姬维维3
1.云南电网有限责任公司 信息中心，云南 昆明650011；2.西南林业大学 大数据与智能工程学院，云南 昆明650224； 3.云南云电同方科技有限公司，云南 昆明650220
摘要： 大数据时代，数据安全性和隐私性受到越来越多的关注和重视。联邦学习被视为是一种隐私保护的可行技术，允许从去中心化的数据中训练深度模型。针对电力投资系统中各部门因担心数据隐私信息泄露而带来的数据孤岛和隐私保护问题，提出了一种隐私保护的联邦学习框架，允许各部门自有数据在不出本地的情况下，联合训练模型。首先，提出了联邦学习的架构，支持分布式地训练模型；其次，引入同态加密技术，提出了隐私保护的联邦平均学习流程，在数据隐私保护的情况下，实现联合训练模型；最后，实验结果表明，该框架具有较好的收敛性，而且联合训练得到的模型具有较好的精度。
中圖分類號(hào)： TN711.1；TP311
文獻(xiàn)標(biāo)識(shí)碼： A
DOI：10.16157/j.issn.0258-7998.211828
中文引用格式： 楊東寧，謝瀟睿，吉志坤，等. 一種隱私保護(hù)的聯(lián)邦學(xué)習(xí)框架[J].電子技術(shù)應(yīng)用，2022，48(5)：94-97，103.
英文引用格式： Yang Dongning，Xie Xiaorui，Ji Zhikun，et al. A privacy-preserving federated learning framework[J]. Application of Electronic Technique，2022，48(5)：94-97，103.
A privacy-preserving federated learning framework
Yang Dongning1，2，Xie Xiaorui1，Ji Zhikun3，Ji Weiwei3
1.Information Center，Yunnan Power Grid Co.，Ltd.，Kunming 650011，China； 2.School of Big Data and Intelligent Engineering，Southwest Forestry University，Kunming 650224，China； 3.Yunnan Yundian Tongfang Technology Co.，Ltd.，Kunming 650220，China
Abstract： In the era of big data, more and more attention has been paid to data security and privacy. Federated learning is regarded as a promising privacy-preserving technology, which allows training a deep model from decentralized data. To solve the problem of isolated data island and privacy protection caused by the fear of data privacy information leakage in the power investment system，this paper proposes a privacy-preserving federal learning framework, which allows departments to jointly train the model without releasing their local data. Firstly, a federated learning architecture is proposed to support distributed training model. Secondly, homomorphic encryption technology is introduced and a federal average learning process is proposed to realize the joint training model while the privacy of data are protected. Finally, the experimental results show that the framework has good convergence and the joint training model has good accuracy.
Key words : data privacy；federated learning；deep learning；homomorphic encryption；convolutional neural network

0 引言

    大數(shù)據(jù)時(shí)代，數(shù)據(jù)的安全性和隱私性受到了越來越多的重視和關(guān)注[1]。歐盟及我國(guó)都分別相繼通過了《一般數(shù)據(jù)法案》《歐洲數(shù)據(jù)保護(hù)通用條例》《中華人民共和國(guó)網(wǎng)絡(luò)安全法》等相關(guān)法案，以保護(hù)數(shù)據(jù)的安全和隱私。

    南方電網(wǎng)公司“十四五”數(shù)字化規(guī)劃明確提出：電力智慧投資將以項(xiàng)目?jī)?chǔ)備庫(kù)為基礎(chǔ)，通過輸入約束條件和投資分配參數(shù)，并結(jié)合規(guī)劃部門的配網(wǎng)規(guī)劃數(shù)據(jù)、基建部門的基建結(jié)算數(shù)據(jù)和財(cái)務(wù)部門的財(cái)務(wù)數(shù)據(jù)，運(yùn)用機(jī)器學(xué)習(xí)訓(xùn)練生成的投資預(yù)測(cè)模型，自動(dòng)生成投資計(jì)劃項(xiàng)目及費(fèi)用估算建議。但是，目前的電力投資系統(tǒng)依賴集中式的方式訓(xùn)練模型，要求訓(xùn)練涉及的多方數(shù)據(jù)和訓(xùn)練過程必須在數(shù)據(jù)中心。在此過程中，各部門自有數(shù)據(jù)中的隱私信息可能會(huì)被泄露。此外，各部門出于數(shù)據(jù)安全和隱私保護(hù)的需求，不可能將自有數(shù)據(jù)上傳到數(shù)據(jù)中心。因此，如何在確保各方數(shù)據(jù)安全和隱私的情況下打破數(shù)據(jù)孤島、共同訓(xùn)練模型，成為了急需解決的挑戰(zhàn)。

    聯(lián)邦學(xué)習(xí)使得機(jī)器學(xué)習(xí)或深度學(xué)習(xí)算法能從不同組織或部門的大量數(shù)據(jù)中獲得更好的經(jīng)驗(yàn)[2]。這種技術(shù)允許多個(gè)組織或部門在數(shù)據(jù)不直接共享的情況下協(xié)作完成模型的聯(lián)合訓(xùn)練[3]。具體來講，各組織或部門的私有自有數(shù)據(jù)可以不離開本地，通過本地模型參數(shù)的更新和全局模型參數(shù)的聚合，在確保各自數(shù)據(jù)隱私性和安全性的情況下，聯(lián)合訓(xùn)練一個(gè)共享的全局模型。因此，聯(lián)邦學(xué)習(xí)被視為解決數(shù)據(jù)孤島和打破數(shù)據(jù)壁壘的有效可行技術(shù)[4]。




本文詳細(xì)內(nèi)容請(qǐng)下載：http://ihrv.cn/resource/share/2000004285。




作者信息：

楊東寧1，2，謝瀟睿1，吉志坤3，姬維維3

(1.云南電網(wǎng)有限責(zé)任公司 信息中心，云南 昆明650011；2.西南林業(yè)大學(xué) 大數(shù)據(jù)與智能工程學(xué)院，云南 昆明650224；

3.云南云電同方科技有限公司，云南 昆明650220)




wd.jpg

此內(nèi)容為AET網(wǎng)站原創(chuàng)，未經(jīng)授權(quán)禁止轉(zhuǎn)載。