3月24日消息,近日,據(jù)媒體報道,有知情人士透露,螞蟻集團正使用中國制造的半導(dǎo)體來開發(fā)AI模型訓(xùn)練技術(shù),這將使成本降低20%。
知情人士稱,螞蟻集團使用了包括來自阿里巴巴和華為的芯片,采用所謂的“專家混合機器學(xué)習(xí)”方法來訓(xùn)練模型,測試結(jié)果取得了與采用英偉達H800等芯片訓(xùn)練相似的結(jié)果。
據(jù)了解,雖然螞蟻集團仍在使用英偉達芯片進行AI開發(fā),但其最新模型已主要依賴包括超威半導(dǎo)體(AMD)及中國國產(chǎn)芯片的替代方案。
據(jù)螞蟻集團本月發(fā)布的研究論文顯示,其部分模型在某些基準測試中超越了Meta,但該數(shù)據(jù)尚未經(jīng)過獨立驗證。
這表明,螞蟻集團正加速AI技術(shù)本土化,以降低成本并減少對美國高端芯片的依賴。
據(jù)公開資料顯示,”英偉達H800”是英偉達研發(fā)的芯片,專為高性能計算和人工智能訓(xùn)練設(shè)計的高端GPU芯片,廣泛應(yīng)用于數(shù)據(jù)中心和AI模型訓(xùn)練場景。
在2023年7月30日時,英偉達特供國內(nèi)的A800和H800芯片已經(jīng)從原來的12萬人民幣左右,漲至了25萬甚至30萬,甚至有高達50萬一片。
至2025年,H800芯片單卡價格約為6萬元。
與此同時,在2023年9月,H800服務(wù)器價格約210萬元/臺,后在同年10月,因限售政策漲至350萬元/臺。
至2025年市場數(shù)據(jù)顯示,H800整機價格穩(wěn)定在230萬元左右。
據(jù)最新消息,針對螞蟻百靈大模型訓(xùn)練成本的報道。
螞蟻集團回應(yīng)稱:螞蟻針對不同芯片持續(xù)調(diào)優(yōu),以降低AI應(yīng)用成本,目前取得了一定的進展,也會逐步通過開源分享。