一種深度神經(jīng)網(wǎng)絡(luò)的分布式訓(xùn)練方法
所屬分類(lèi)：技術(shù)論文
上傳者：zhoubin333
文檔大?。?span>3555 K
標(biāo)簽： 深度神經(jīng)網(wǎng)絡(luò) 分布式訓(xùn)練 監(jiān)督學(xué)習(xí)
所需積分：0分積分不夠怎么辦？
文檔介紹：深度神經(jīng)網(wǎng)絡(luò)在高維數(shù)據(jù)的分類(lèi)和預(yù)測(cè)中取得了巨大成功。訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)是數(shù)據(jù)密集型的任務(wù)，需從多個(gè)數(shù)據(jù)源收集大規(guī)模的數(shù)據(jù)。這些數(shù)據(jù)中通常包含敏感信息時(shí)，使得深度神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過(guò)程容易泄露數(shù)據(jù)隱私。針對(duì)訓(xùn)練過(guò)程中的數(shù)據(jù)隱私和通信代價(jià)問(wèn)題，提出了一種深度神經(jīng)網(wǎng)絡(luò)的分布式訓(xùn)練方法，允許基于多個(gè)數(shù)據(jù)源共同訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)。首先，提出了分布式訓(xùn)練架構(gòu)，由1個(gè)計(jì)算中心和多個(gè)代理組成。其次，提出了基于多代理的分布式訓(xùn)練算法，允許代理在數(shù)據(jù)不出本地和減少通信代價(jià)的情況下，通過(guò)切割深度神經(jīng)網(wǎng)絡(luò)，實(shí)現(xiàn)分布式地共同訓(xùn)練模型。然后，分析了算法的正確性。最后，實(shí)驗(yàn)結(jié)果表明該方法是有效的。
現(xiàn)在下載
VIP會(huì)員，AET專(zhuān)家下載不扣分；重復(fù)下載不扣分，本人上傳資源不扣分。