2020年7月8日,北京——Graphcore今日正式發(fā)布基于IPU的開發(fā)者云,面向中國的客戶、大學、研究機構和個人研究者免費使用,使得前沿的機器智能創(chuàng)新者可以輕松獲取IPU進行前沿AI模型的云端訓練與推理,從而在新的一波機器智能浪潮中取得關鍵突破。該開發(fā)者云是中國首款IPU開發(fā)者云,部署在金山云上,使用了IPU PCIe卡適配完成的浪潮NF5568M5服務器和戴爾DSS8440服務器。
中國眾多的機器智能創(chuàng)新者活躍在各個AI領域的世界前端,通過IPU開發(fā)者云,前沿機器智能創(chuàng)新者可以快速便捷地獲取IPU云,避開自建機房或者申購IPU服務器等繁瑣內(nèi)部流程,專注于在IPU上快速運行自己的AI模型結果。
“我們在與創(chuàng)新者交流時,很多創(chuàng)新者想要使用IPU來運行自己的算法模型,以期獲得更好的運行結果,但受制于各種條件限制,難以達成。”Graphcore高級副總裁兼中國區(qū)總經(jīng)理盧濤表示,“因此我們推出了IPU開發(fā)者云,開發(fā)者們可以很方便地使用IPU進行訓練與推理任務,探索自己的算法模型的極致表現(xiàn),并且它是免費的,我們的本地工程支持團隊還會和開發(fā)者們一同制定工程計劃,全程提供咨詢與支持?!?/p>
開發(fā)者在運行先進的AI算法模型時,最常遇到兩大困擾:一是他們將要求提供給算力平臺部門時,經(jīng)常得到的反饋是GPU目前不能夠支持他們想要的低時延和高吞吐量;二是他們的算法模型在GPU上跑的速度非常慢,經(jīng)常產(chǎn)生有可能是算法本身問題的誤導。這是由于GPU從來不是為了滿足機器學習的計算需求而設計的。而與當今的CPU和GPU完全不同,Graphcore從零設計的IPU是一種高度靈活、易于使用的并行處理器,專門適用于算力密集型的機器學習和深度學習任務,能在目前用于訓練和推理的機器智能模型上實現(xiàn)最先進的性能。
借助IPU開發(fā)者云,創(chuàng)新者可以使自己的算法任務直達IPU,避開傳統(tǒng)硬件的限制陷阱,使得自己的算法模型不用因硬件受阻而妥協(xié)。創(chuàng)新者們可以在IPU上最大程度地釋放算法模型的潛能,使結果值抵達最優(yōu),并在IPU上探索更多的可能性,全方位觸發(fā)創(chuàng)新。
? 對于商業(yè)客戶來說,在較短的時間內(nèi)(通常為三周或者按需適度延長),可以通過IPU極大優(yōu)化現(xiàn)有模型,了解到模型現(xiàn)在及未來的性能提升空間,從而迅速行動,早競爭對手一步實現(xiàn)產(chǎn)品化和市場化,獲得最大時間窗口優(yōu)勢,贏取市場先機。
? 大學、研究機構和個人研究者可以在較長的時間內(nèi)(通常為6個月)免費訪問,直至完成研究項目并發(fā)表結果。在IPU上,用于研究的算法模型得以極大優(yōu)化,充分釋放潛能,幫助縮短研究成果面世的時間,并觸發(fā)新的研究方向,探索新領域。
? 專注于在機器智能方面取得新突破以擴大人類潛能的研究者可獲得優(yōu)先訪問使用權。另外,全球范圍內(nèi)正在進行COVID-19相關研究的機構和個人可以獲得最先使用權。
在收到使用請求并完成評估后,Graphcore工程團隊會和商業(yè)客戶、大學和研究者一起制定開發(fā)計劃和使用周期,并全程提供技術咨詢和支持。
Graphcore IPU開發(fā)者云使用了金山云提供的托管服務,金山云獨特靈活的云物理機服務可以使Graphcore布置多種機型,目前已上線IPU PCIe卡配置完成的浪潮NF5568M5服務器和戴爾DSS8440服務器。如使用者有本地測試需求,金山云還會將機器運送到使用者本地配合測試,之后再返還數(shù)據(jù)中心。這為使用IPU的開發(fā)者提供了極高的靈活度、極大的創(chuàng)新空間和很好的本地技術支持。
金山云合伙人劉濤先生表示:“很高興Graphcore IPU開發(fā)者云入駐金山云,期望看到越來越多的開發(fā)者在IPU開發(fā)者云上實現(xiàn)AI模型加速創(chuàng)新。金山云將和Graphcore共同為廣大開發(fā)者提供助力,推動AI應用的產(chǎn)業(yè)化落地?!?/p>
IPU開發(fā)者云適用于先進和復雜的AI模型的訓練和推理,按照場景大致分為五類:
1. 自然語言處理類,比如BERT;
2. 高級計算機視覺應用類,即以分組卷積為代表的一些機器視覺類的應用,比如ResNeXt、EfficientNet、ResNet;
3. 時序分析類,比如LSTM、RNN、GRU等大量應用于語音應用、廣告推薦、金融算法等模型;
4. 排名與推薦類,比如Deep Autoencoder;
5. 概率模型,比如MCMC等用于算法交易的模型;
除了上述模型,IPU還非常適合在稀疏化的應用場景里進行前沿探索。相關Benchmark請參考:graphcore.ai/benchmarks。
為了更好地賦能中國AI創(chuàng)新者,配合開發(fā)者云,Graphcore的創(chuàng)新社區(qū)現(xiàn)已全面正式上線,社區(qū)平臺包含微信、知乎、微博以及Graphcore即將上線的中文創(chuàng)新社區(qū)網(wǎng)站。創(chuàng)新者們可以在自己常用的社交平臺上輕松向Graphcore全球的科學家提問,獲取IPU硬件產(chǎn)品與軟件更新的最新資訊、閱讀深度技術文章、并與其他創(chuàng)新者們一起交流成長。
“在中國建立IPU開發(fā)者云,是Graphcore對于中國創(chuàng)新社區(qū)的承諾。Graphcore積極擁抱中國的AI生態(tài)系統(tǒng),通過IPU開發(fā)者云的免費使用和源源不斷的知識輸出,賦能尖端AI創(chuàng)新者,從而將中國最具有創(chuàng)新能力和求知精神的機器智能創(chuàng)新者們匯聚在一起,共同在社區(qū)中探索與收獲。”Graphcore高級副總裁兼中國區(qū)總經(jīng)理盧濤表示。
Graphcore聯(lián)合創(chuàng)始人兼CEO Nigel Toon表示:“Graphcore非常專注于中國市場。機器智能方面的許多新突破將非常適用于中國客戶和研究機構。通過為進行AI研究的創(chuàng)新者免費提供云計算中的IPU支持以及運營在中國的創(chuàng)新社區(qū),我們可以支持中國最具創(chuàng)新精神的人才解決世界上最棘手的AI問題?!?/p>
如果您想使用Graphcore的IPU開發(fā)者云,請點擊使用申請與我們聯(lián)系,我們收到您的需求之后,將第一時間進行評估并與您聯(lián)系。
關于 Graphcore?
Graphcore IPU(智能處理器)硬件和Poplar?軟件幫助創(chuàng)新者創(chuàng)建下一代機器智能解決方案。IPU是第一個專門為機器智能設計的處理器。 Graphcore已從領先的金融以及戰(zhàn)略投資者那里籌集了超過4.5億美元的資金,公司總部位于英國布里斯托。