一種深度神經(jīng)網(wǎng)絡(luò)的分布式訓(xùn)練方法
所屬分類：技術(shù)論文
上傳者：zhoubin333
文檔大小：3555 K
標簽： 深度神經(jīng)網(wǎng)絡(luò) 分布式訓(xùn)練 監(jiān)督學(xué)習(xí)
所需積分：0分積分不夠怎么辦？
文檔介紹：深度神經(jīng)網(wǎng)絡(luò)在高維數(shù)據(jù)的分類和預(yù)測中取得了巨大成功。訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)是數(shù)據(jù)密集型的任務(wù)，需從多個數(shù)據(jù)源收集大規(guī)模的數(shù)據(jù)。這些數(shù)據(jù)中通常包含敏感信息時，使得深度神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程容易泄露數(shù)據(jù)隱私。針對訓(xùn)練過程中的數(shù)據(jù)隱私和通信代價問題，提出了一種深度神經(jīng)網(wǎng)絡(luò)的分布式訓(xùn)練方法，允許基于多個數(shù)據(jù)源共同訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)。首先，提出了分布式訓(xùn)練架構(gòu)，由1個計算中心和多個代理組成。其次，提出了基于多代理的分布式訓(xùn)練算法，允許代理在數(shù)據(jù)不出本地和減少通信代價的情況下，通過切割深度神經(jīng)網(wǎng)絡(luò)，實現(xiàn)分布式地共同訓(xùn)練模型。然后，分析了算法的正確性。最后，實驗結(jié)果表明該方法是有效的。
現(xiàn)在下載
VIP會員，AET專家下載不扣分；重復(fù)下載不扣分，本人上傳資源不扣分。