3月24日消息,近日,據(jù)媒體報(bào)道,有知情人士透露,螞蟻集團(tuán)正使用中國(guó)制造的半導(dǎo)體來(lái)開(kāi)發(fā)AI模型訓(xùn)練技術(shù),這將使成本降低20%。
知情人士稱,螞蟻集團(tuán)使用了包括來(lái)自阿里巴巴和華為的芯片,采用所謂的“專家混合機(jī)器學(xué)習(xí)”方法來(lái)訓(xùn)練模型,測(cè)試結(jié)果取得了與采用英偉達(dá)H800等芯片訓(xùn)練相似的結(jié)果。
據(jù)了解,雖然螞蟻集團(tuán)仍在使用英偉達(dá)芯片進(jìn)行AI開(kāi)發(fā),但其最新模型已主要依賴包括超威半導(dǎo)體(AMD)及中國(guó)國(guó)產(chǎn)芯片的替代方案。
據(jù)螞蟻集團(tuán)本月發(fā)布的研究論文顯示,其部分模型在某些基準(zhǔn)測(cè)試中超越了Meta,但該數(shù)據(jù)尚未經(jīng)過(guò)獨(dú)立驗(yàn)證。
這表明,螞蟻集團(tuán)正加速AI技術(shù)本土化,以降低成本并減少對(duì)美國(guó)高端芯片的依賴。
據(jù)公開(kāi)資料顯示,”英偉達(dá)H800”是英偉達(dá)研發(fā)的芯片,專為高性能計(jì)算和人工智能訓(xùn)練設(shè)計(jì)的高端GPU芯片,廣泛應(yīng)用于數(shù)據(jù)中心和AI模型訓(xùn)練場(chǎng)景。
在2023年7月30日時(shí),英偉達(dá)特供國(guó)內(nèi)的A800和H800芯片已經(jīng)從原來(lái)的12萬(wàn)人民幣左右,漲至了25萬(wàn)甚至30萬(wàn),甚至有高達(dá)50萬(wàn)一片。
至2025年,H800芯片單卡價(jià)格約為6萬(wàn)元。
與此同時(shí),在2023年9月,H800服務(wù)器價(jià)格約210萬(wàn)元/臺(tái),后在同年10月,因限售政策漲至350萬(wàn)元/臺(tái)。
至2025年市場(chǎng)數(shù)據(jù)顯示,H800整機(jī)價(jià)格穩(wěn)定在230萬(wàn)元左右。
據(jù)最新消息,針對(duì)螞蟻百靈大模型訓(xùn)練成本的報(bào)道。
螞蟻集團(tuán)回應(yīng)稱:螞蟻針對(duì)不同芯片持續(xù)調(diào)優(yōu),以降低AI應(yīng)用成本,目前取得了一定的進(jìn)展,也會(huì)逐步通過(guò)開(kāi)源分享。