基于分層信息過(guò)濾的生成式文本摘要模型
所屬分類:技術(shù)論文
上傳者:zhoubin333
文檔大?。?span>802 K
標(biāo)簽: 自然語(yǔ)言處理 自動(dòng)文本摘要 噪聲過(guò)濾
所需積分:0分積分不夠怎么辦?
文檔介紹:文本摘要模型的輸入數(shù)據(jù)中通常包含被視為噪聲的冗余信息,對(duì)輸入數(shù)據(jù)中的噪聲進(jìn)行過(guò)濾可以提高摘要模型的表現(xiàn)。提出了基于動(dòng)態(tài)路由指導(dǎo)的分層信息過(guò)濾(Dynamic Routing Based Hierarchical Information Filtering,DRBHIF)層,該層首先通過(guò)動(dòng)態(tài)路由模塊根據(jù)編碼器的輸出動(dòng)態(tài)地計(jì)算全局向量,然后根據(jù)全局向量從詞層面和語(yǔ)義層面對(duì)輸入文本中的噪聲進(jìn)行過(guò)濾。具體來(lái)說(shuō),首先通過(guò)全局向量和編碼器的輸出從詞層面上對(duì)原文中的關(guān)鍵字進(jìn)行選擇,然后通過(guò)雙門語(yǔ)義噪聲過(guò)濾算法在語(yǔ)義層面上進(jìn)行噪聲過(guò)濾。在Gigaword和CNN/Daily Mail兩個(gè)數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果表明,DRBHIF能夠有效地對(duì)輸入文本中的噪聲進(jìn)行過(guò)濾,并且能提升摘要模型的表現(xiàn)。
現(xiàn)在下載
VIP會(huì)員,AET專家下載不扣分;重復(fù)下載不扣分,本人上傳資源不扣分。