英文語言大模型特定文化改造方法研究
所屬分類:技術(shù)論文
上傳者:wwei
文檔大小:980 K
標(biāo)簽: 大語言模型 特定文化背景 快速改造
所需積分:0分積分不夠怎么辦?
文檔介紹:大語言模型的迅猛發(fā)展已成為人工智能領(lǐng)域的顯著趨勢。然而,目前領(lǐng)先的大語言模型多基于英文,直接將其應(yīng)用于特定文化領(lǐng)域下的任務(wù)時(shí)存在局限,如特定領(lǐng)域知識(shí)不足和文化價(jià)值觀差異導(dǎo)致的誤解。為應(yīng)對(duì)這一挑戰(zhàn),提出了一種針對(duì)特定文化背景下大模型的快速改造方法,該方法基于特定文化知識(shí)能力和安全價(jià)值觀數(shù)據(jù)進(jìn)行指令微調(diào)。以中文為特定文化背景,選用LLaMA38B英文大模型作為實(shí)驗(yàn)對(duì)象,評(píng)估結(jié)果顯示,改造后的大模型在保持原有領(lǐng)域知識(shí)優(yōu)勢的同時(shí),顯著增強(qiáng)了在特定領(lǐng)域下的知識(shí)能力和安全價(jià)值觀適應(yīng)能力。
現(xiàn)在下載
VIP會(huì)員,AET專家下載不扣分;重復(fù)下載不扣分,本人上傳資源不扣分。