鄔江興院士：90%以上主流大模型不可信

5月20日消息，自從ChatGPT爆火以來，全球誕生了無數(shù)的大模型，光國內(nèi)就有上百種，但實(shí)用性卻并不如意。 在今天下午的2024搜狐科技年度論壇上，中國工程院院士、國家數(shù)字交換系統(tǒng)工程技術(shù)研究中心主任、復(fù)旦大學(xué)大數(shù)據(jù)研究院院長(zhǎng)鄔江興指出，他們團(tuán)隊(duì)對(duì)當(dāng)前最流行的10種大模型進(jìn)行安全分析發(fā)現(xiàn)，90%以上的主流大模型是不可信的。 鄔江興表示，深度學(xué)習(xí)模型存在“三不可”基因缺陷。 分別是： 第一，不可解釋性。 從數(shù)據(jù)提供AI模型訓(xùn)練到知識(shí)規(guī)律，到獲得應(yīng)用推理階段，工作原理到現(xiàn)在不明確，問題發(fā)現(xiàn)定位非常困難，AI系統(tǒng)中的安全問題比破解密碼還要難。 第二，不可判識(shí)性。 因?yàn)锳I對(duì)序列性強(qiáng)依賴，不具備對(duì)內(nèi)容的判識(shí)能力，所以數(shù)據(jù)存在質(zhì)量差異，來源差異，就可能導(dǎo)致訓(xùn)練出的結(jié)果有差異。 第三，不可推論性。 AI的推理是從已知數(shù)據(jù)中獲得規(guī)律性，難以勝任對(duì)中長(zhǎng)期未來事物變遷的預(yù)測(cè)和推理，只是把現(xiàn)有的東西歸納起來，看起來它聰明無比，但僅僅是比我看得多，并沒有產(chǎn)生什么新的認(rèn)知。

發(fā)表于：2024/5/21 8:50:30