《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 人工智能 > 業(yè)界動態(tài) > 百度飛槳在Graphcore IPU上實現(xiàn)訓(xùn)練與推理全面支持

百度飛槳在Graphcore IPU上實現(xiàn)訓(xùn)練與推理全面支持

2021-12-13
來源:Graphcore

2021年12月12日,中國上?!?nbsp;今天,在2021 Wave Summit+上百度深度學(xué)習(xí)平臺飛槳正式發(fā)布在Graphcore IPU上實現(xiàn)訓(xùn)練和推理全流程支持的開源代碼庫,飛槳模型庫如Bert、ERNIE等也正逐步在IPU上實現(xiàn)支持。自此,百度飛槳的開發(fā)者可以在IPU這一專為機(jī)器智能從零設(shè)計的創(chuàng)新架構(gòu)上進(jìn)行AI模型加速,而IPU的全球用戶也可以使用百度飛槳框架探索深度學(xué)習(xí)。對Graphcore而言,此舉將極大地擴(kuò)展IPU的中文社區(qū),中文生態(tài)系統(tǒng)進(jìn)一步繁榮。

1.jpg

百度飛槳是中國領(lǐng)先的產(chǎn)業(yè)級深度學(xué)習(xí)平臺,目前累計開發(fā)者數(shù)量超過406萬,服務(wù)企業(yè)數(shù)量15.7萬家,創(chuàng)建了超過47.6萬個模型,為中國AI社區(qū)的繁榮做出巨大貢獻(xiàn)。Graphcore是飛槳硬件生態(tài)圈的初始成員之一,作為飛槳的重要硬件合作伙伴,Graphcore將通過云端和數(shù)據(jù)中心的IPU技術(shù)助力飛槳開發(fā)者實現(xiàn)AI模型的大幅加速,同時為使用飛槳的企業(yè)提供基于IPU的產(chǎn)品方案,幫助飛槳的企業(yè)級客戶提升數(shù)據(jù)中心效率。通過大幅提升模型的性能和運行速度,縮短研發(fā)周期,加快AI模型落地應(yīng)用,同時降低計算成本。

目前Graphcore IPU支持通過飛槳完成大規(guī)模的模型訓(xùn)練任務(wù),也支持通過飛槳推理庫執(zhí)行高性能的推理任務(wù)。雙方團(tuán)隊通過在16個IPU組成的IPU-POD16上做數(shù)據(jù)并行與模型并行,并在Bert-Base模型上進(jìn)行了精讀和吞吐量驗證,取得了良好的性能效果。結(jié)果證明,運行在IPU硬件上的百度飛槳解決方案,在目前主流的AI訓(xùn)練任務(wù)和前沿AI創(chuàng)新模型任務(wù)上,可以取得很好的加速效果。IPU良好的系統(tǒng)擴(kuò)展性使得用戶可以根據(jù)任務(wù)需求靈活進(jìn)行性能擴(kuò)展。

百度飛槳產(chǎn)品團(tuán)隊負(fù)責(zé)人趙喬表示:“Graphcore是百度飛槳一直以來的好朋友和重要伙伴,非常高興宣布百度飛槳在Graphcore IPU上完成訓(xùn)練和推理的支持,這是我們飛槳硬件生態(tài)一次重要的升級。百度飛槳模型庫中的模型如Bert在IPU上實現(xiàn)了很好的訓(xùn)練和推理性能。同時,Graphcore的深度學(xué)習(xí)引擎PopART具有的良好可用性,也支持飛槳在IPU上的適配變得簡易。我們將和Graphcore深化合作,將飛槳模型庫更多的模型遷移到IPU上,共同打造基于飛槳和IPU的世界級AI解決方案,賦能AI開發(fā)者和企業(yè)。”

隨著Graphcore在中國不斷深耕,其中文IPU社區(qū)和生態(tài)系統(tǒng)在不斷擴(kuò)大。此次引入百度飛槳深度學(xué)習(xí)平臺,除了是其軟件Poplar SDK的重要擴(kuò)充,也為Graphcore客戶,尤其是中國客戶的工具箱中多放入一件重要工具。通過對百度飛槳的支持,Graphcore支持其客戶能夠在更多框架上進(jìn)行探索,IPU硬件架構(gòu)的潛能優(yōu)勢將得以進(jìn)一步釋放。

Graphcore中國工程總負(fù)責(zé)人、AI算法科學(xué)家金琛表示:“IPU對百度飛槳的支持,是Graphcore Poplar SDK的重要升級,也是IPU生態(tài)系統(tǒng)的一次重大更新。百度飛槳是中文AI社區(qū)的翹楚,通過與百度飛槳合作,我們希望能夠擴(kuò)大IPU中文社區(qū),讓更多中國的開發(fā)者能夠打破傳統(tǒng)硬件的桎梏,在IPU上進(jìn)行創(chuàng)新突破,幫助他們解決棘手的深度學(xué)習(xí)難題?!?/p>

2.jpg

Graphcore中國工程總負(fù)責(zé)人、AI算法科學(xué)家金琛在2021 Wave Summit+上介紹IPU上的百度飛槳

百度飛槳和Graphcore IPU精神的相通之處,就是開源精神,將權(quán)力交給AI開發(fā)人員,使他們能夠自由地進(jìn)行創(chuàng)新。Graphcore制造硬件和開發(fā)軟件都遵循這一宗旨。百度飛槳在IPU上相關(guān)的代碼和模型代碼資源已經(jīng)在Graphcore GitHub和百度飛槳GitHub開源,在雙方的GitHub以及Graphcore的官網(wǎng)開發(fā)者頁面也附上了詳細(xì)的教程。同時,使用了飛槳的Bert-Base也已經(jīng)在Graphcore的Model Garden里開源,廣大開發(fā)者可以前往雙方的資源池進(jìn)行探索、調(diào)取和使用。

AETweidian.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認(rèn)版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟(jì)損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。