《電子技術應用》
您所在的位置：首頁 > 通信與網(wǎng)絡 > 設計應用 > 一種隱私保護的聯(lián)邦學習框架
一種隱私保護的聯(lián)邦學習框架
2022年電子技術應用第5期
楊東寧1，2，謝瀟睿1，吉志坤3，姬維維3
1.云南電網(wǎng)有限責任公司 信息中心，云南 昆明650011；2.西南林業(yè)大學 大數(shù)據(jù)與智能工程學院，云南 昆明650224； 3.云南云電同方科技有限公司，云南 昆明650220
摘要： 大數(shù)據(jù)時代，數(shù)據(jù)安全性和隱私性受到越來越多的關注和重視。聯(lián)邦學習被視為是一種隱私保護的可行技術，允許從去中心化的數(shù)據(jù)中訓練深度模型。針對電力投資系統(tǒng)中各部門因擔心數(shù)據(jù)隱私信息泄露而帶來的數(shù)據(jù)孤島和隱私保護問題，提出了一種隱私保護的聯(lián)邦學習框架，允許各部門自有數(shù)據(jù)在不出本地的情況下，聯(lián)合訓練模型。首先，提出了聯(lián)邦學習的架構，支持分布式地訓練模型；其次，引入同態(tài)加密技術，提出了隱私保護的聯(lián)邦平均學習流程，在數(shù)據(jù)隱私保護的情況下，實現(xiàn)聯(lián)合訓練模型；最后，實驗結果表明，該框架具有較好的收斂性，而且聯(lián)合訓練得到的模型具有較好的精度。
中圖分類號： TN711.1；TP311
文獻標識碼： A
DOI：10.16157/j.issn.0258-7998.211828
中文引用格式： 楊東寧，謝瀟睿，吉志坤，等. 一種隱私保護的聯(lián)邦學習框架[J].電子技術應用，2022，48(5)：94-97，103.
英文引用格式： Yang Dongning，Xie Xiaorui，Ji Zhikun，et al. A privacy-preserving federated learning framework[J]. Application of Electronic Technique，2022，48(5)：94-97，103.
A privacy-preserving federated learning framework
Yang Dongning1，2，Xie Xiaorui1，Ji Zhikun3，Ji Weiwei3
1.Information Center，Yunnan Power Grid Co.，Ltd.，Kunming 650011，China； 2.School of Big Data and Intelligent Engineering，Southwest Forestry University，Kunming 650224，China； 3.Yunnan Yundian Tongfang Technology Co.，Ltd.，Kunming 650220，China
Abstract： In the era of big data, more and more attention has been paid to data security and privacy. Federated learning is regarded as a promising privacy-preserving technology, which allows training a deep model from decentralized data. To solve the problem of isolated data island and privacy protection caused by the fear of data privacy information leakage in the power investment system，this paper proposes a privacy-preserving federal learning framework, which allows departments to jointly train the model without releasing their local data. Firstly, a federated learning architecture is proposed to support distributed training model. Secondly, homomorphic encryption technology is introduced and a federal average learning process is proposed to realize the joint training model while the privacy of data are protected. Finally, the experimental results show that the framework has good convergence and the joint training model has good accuracy.
Key words : data privacy；federated learning；deep learning；homomorphic encryption；convolutional neural network

0 引言

    大數(shù)據(jù)時代，數(shù)據(jù)的安全性和隱私性受到了越來越多的重視和關注[1]。歐盟及我國都分別相繼通過了《一般數(shù)據(jù)法案》《歐洲數(shù)據(jù)保護通用條例》《中華人民共和國網(wǎng)絡安全法》等相關法案，以保護數(shù)據(jù)的安全和隱私。

    南方電網(wǎng)公司“十四五”數(shù)字化規(guī)劃明確提出：電力智慧投資將以項目儲備庫為基礎，通過輸入約束條件和投資分配參數(shù)，并結合規(guī)劃部門的配網(wǎng)規(guī)劃數(shù)據(jù)、基建部門的基建結算數(shù)據(jù)和財務部門的財務數(shù)據(jù)，運用機器學習訓練生成的投資預測模型，自動生成投資計劃項目及費用估算建議。但是，目前的電力投資系統(tǒng)依賴集中式的方式訓練模型，要求訓練涉及的多方數(shù)據(jù)和訓練過程必須在數(shù)據(jù)中心。在此過程中，各部門自有數(shù)據(jù)中的隱私信息可能會被泄露。此外，各部門出于數(shù)據(jù)安全和隱私保護的需求，不可能將自有數(shù)據(jù)上傳到數(shù)據(jù)中心。因此，如何在確保各方數(shù)據(jù)安全和隱私的情況下打破數(shù)據(jù)孤島、共同訓練模型，成為了急需解決的挑戰(zhàn)。

    聯(lián)邦學習使得機器學習或深度學習算法能從不同組織或部門的大量數(shù)據(jù)中獲得更好的經(jīng)驗[2]。這種技術允許多個組織或部門在數(shù)據(jù)不直接共享的情況下協(xié)作完成模型的聯(lián)合訓練[3]。具體來講，各組織或部門的私有自有數(shù)據(jù)可以不離開本地，通過本地模型參數(shù)的更新和全局模型參數(shù)的聚合，在確保各自數(shù)據(jù)隱私性和安全性的情況下，聯(lián)合訓練一個共享的全局模型。因此，聯(lián)邦學習被視為解決數(shù)據(jù)孤島和打破數(shù)據(jù)壁壘的有效可行技術[4]。




本文詳細內(nèi)容請下載：http://ihrv.cn/resource/share/2000004285。




作者信息：

楊東寧1，2，謝瀟睿1，吉志坤3，姬維維3

(1.云南電網(wǎng)有限責任公司 信息中心，云南 昆明650011；2.西南林業(yè)大學 大數(shù)據(jù)與智能工程學院，云南 昆明650224；

3.云南云電同方科技有限公司，云南 昆明650220)




wd.jpg

此內(nèi)容為AET網(wǎng)站原創(chuàng)，未經(jīng)授權禁止轉(zhuǎn)載。