《電子技術應用》
您所在的位置:首頁 > 人工智能 > 業(yè)界動態(tài) > 百度飛槳在Graphcore IPU上實現訓練與推理全面支持

百度飛槳在Graphcore IPU上實現訓練與推理全面支持

2021-12-13
來源:Graphcore

2021年12月12日,中國上?!?nbsp;今天,在2021 Wave Summit+上百度深度學習平臺飛槳正式發(fā)布在Graphcore IPU上實現訓練和推理全流程支持的開源代碼庫,飛槳模型庫如Bert、ERNIE等也正逐步在IPU上實現支持。自此,百度飛槳的開發(fā)者可以在IPU這一專為機器智能從零設計的創(chuàng)新架構上進行AI模型加速,而IPU的全球用戶也可以使用百度飛槳框架探索深度學習。對Graphcore而言,此舉將極大地擴展IPU的中文社區(qū),中文生態(tài)系統(tǒng)進一步繁榮。

1.jpg

百度飛槳是中國領先的產業(yè)級深度學習平臺,目前累計開發(fā)者數量超過406萬,服務企業(yè)數量15.7萬家,創(chuàng)建了超過47.6萬個模型,為中國AI社區(qū)的繁榮做出巨大貢獻。Graphcore是飛槳硬件生態(tài)圈的初始成員之一,作為飛槳的重要硬件合作伙伴,Graphcore將通過云端和數據中心的IPU技術助力飛槳開發(fā)者實現AI模型的大幅加速,同時為使用飛槳的企業(yè)提供基于IPU的產品方案,幫助飛槳的企業(yè)級客戶提升數據中心效率。通過大幅提升模型的性能和運行速度,縮短研發(fā)周期,加快AI模型落地應用,同時降低計算成本。

目前Graphcore IPU支持通過飛槳完成大規(guī)模的模型訓練任務,也支持通過飛槳推理庫執(zhí)行高性能的推理任務。雙方團隊通過在16個IPU組成的IPU-POD16上做數據并行與模型并行,并在Bert-Base模型上進行了精讀和吞吐量驗證,取得了良好的性能效果。結果證明,運行在IPU硬件上的百度飛槳解決方案,在目前主流的AI訓練任務和前沿AI創(chuàng)新模型任務上,可以取得很好的加速效果。IPU良好的系統(tǒng)擴展性使得用戶可以根據任務需求靈活進行性能擴展。

百度飛槳產品團隊負責人趙喬表示:“Graphcore是百度飛槳一直以來的好朋友和重要伙伴,非常高興宣布百度飛槳在Graphcore IPU上完成訓練和推理的支持,這是我們飛槳硬件生態(tài)一次重要的升級。百度飛槳模型庫中的模型如Bert在IPU上實現了很好的訓練和推理性能。同時,Graphcore的深度學習引擎PopART具有的良好可用性,也支持飛槳在IPU上的適配變得簡易。我們將和Graphcore深化合作,將飛槳模型庫更多的模型遷移到IPU上,共同打造基于飛槳和IPU的世界級AI解決方案,賦能AI開發(fā)者和企業(yè)。”

隨著Graphcore在中國不斷深耕,其中文IPU社區(qū)和生態(tài)系統(tǒng)在不斷擴大。此次引入百度飛槳深度學習平臺,除了是其軟件Poplar SDK的重要擴充,也為Graphcore客戶,尤其是中國客戶的工具箱中多放入一件重要工具。通過對百度飛槳的支持,Graphcore支持其客戶能夠在更多框架上進行探索,IPU硬件架構的潛能優(yōu)勢將得以進一步釋放。

Graphcore中國工程總負責人、AI算法科學家金琛表示:“IPU對百度飛槳的支持,是Graphcore Poplar SDK的重要升級,也是IPU生態(tài)系統(tǒng)的一次重大更新。百度飛槳是中文AI社區(qū)的翹楚,通過與百度飛槳合作,我們希望能夠擴大IPU中文社區(qū),讓更多中國的開發(fā)者能夠打破傳統(tǒng)硬件的桎梏,在IPU上進行創(chuàng)新突破,幫助他們解決棘手的深度學習難題。”

2.jpg

Graphcore中國工程總負責人、AI算法科學家金琛在2021 Wave Summit+上介紹IPU上的百度飛槳

百度飛槳和Graphcore IPU精神的相通之處,就是開源精神,將權力交給AI開發(fā)人員,使他們能夠自由地進行創(chuàng)新。Graphcore制造硬件和開發(fā)軟件都遵循這一宗旨。百度飛槳在IPU上相關的代碼和模型代碼資源已經在Graphcore GitHub和百度飛槳GitHub開源,在雙方的GitHub以及Graphcore的官網開發(fā)者頁面也附上了詳細的教程。同時,使用了飛槳的Bert-Base也已經在Graphcore的Model Garden里開源,廣大開發(fā)者可以前往雙方的資源池進行探索、調取和使用。

AETweidian.jpg

本站內容除特別聲明的原創(chuàng)文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創(chuàng)文章及圖片等內容無法一一聯(lián)系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。