生成AI大語言模型供應商Hugging Face已經與戴爾達成協(xié)議,計劃將更多定制化生成AI模型部署在戴爾的服務器與存儲產品之上。
Hugging Face對外提供各類開源大語言模型,包括用于文本分類的Distilbert-sst-2-int8等。作為Hugging Face合作伙伴,已經有越來越多的開源模型運行在AMD打造的Instinct和Alveo加速器之上,CloudFlare也有類似合作。如今,Hugging Face決定在其平臺上構建戴爾門戶,通過戴爾的計算與存儲基礎設施開放更多定制化大語言模型(LLM)的本地部署方案。
戴爾首席AI官Jeff Boudreau專門發(fā)表聲明評論此番合作,“戴爾科技的生成AI優(yōu)勢將與Hugging Face的數(shù)據(jù)集和庫集合相結合,幫助用戶實現(xiàn)開源生成AI模型自由,并通過保障本地數(shù)據(jù)的安全性和可靠性,讓他們能夠安心使用更多開源生成AI模型?!?/p>
Hugging Face產品與業(yè)務增長主管Jeff Boudier也表示,“此次合作將讓企業(yè)客戶能夠充分利用開源社區(qū)中精彩紛呈的創(chuàng)新成果,借此構建起自己的AI系統(tǒng),同時充分享受戴爾系統(tǒng)帶來的安全性、合規(guī)性與性能保障。”
Hugging Face上的戴爾門戶將提供定制化專用容器和腳本,幫助用戶在戴爾服務器和數(shù)據(jù)存儲系統(tǒng)之上部署各類開源模型。
目前,戴爾公司正在全力進軍AI領域。不久前,該公司剛剛發(fā)布了ObjectScale XF960全閃存存儲設備和戴爾AI驗證設計(Dell Validated Designs for AI)方案,其中就包括配備有X86 CPU以及最高8個英偉達H100 GPU的PowerEdge XE9680服務器。
Hugging Face目前的產品目錄中擁有超過30萬種大語言模型,同時提供預訓練的模型、庫、工具及資源,希望盡可能降低受眾的使用門檻。該公司于2016年成立于紐約布魯克林,主要提供開源自然語言處理技術。通過前后六輪融資,Hugging Face公司總計籌得3.952億美元,最近一輪是今年8月進行的D輪融資、籌得2.35億美元。Salesforce、谷歌和AMD均出資支持這家后起之秀。