《電子技術應用》
您所在的位置:首頁 > 嵌入式技術 > 業(yè)界動態(tài) > 這么多深度學習架構,百度還有必要重做一個?

這么多深度學習架構,百度還有必要重做一個?

2019-06-20
關鍵詞: 百度 深度學習

  去年 3 月 22 號,華為 HiAI 首席架構師楊鋆源第一次聽到 PaddlePaddle 這個名字。當時,他的內(nèi)心想法是,「業(yè)界深度學習框架已經(jīng)很多了,開發(fā)者已經(jīng)是選擇困難,百度還有必要再做一個嗎?」

  如今,他的想法發(fā)生了改變:「做深度學習框架需要大量的投入,無論是做框架的提供者,還是廣大的學員或者是開發(fā)者,都要花很大的精力去學習。平臺必須堅持數(shù)年連續(xù)投入,百度愿意做這件事是國內(nèi)開發(fā)者的幸事。向所有愿意在基礎能力投入的組織和個人致敬,因為他們推動了整個產(chǎn)業(yè)的可持續(xù)性發(fā)展?!?/p>

  楊鋆源想法的改變,源于一項為期六個月的培訓。

  今年初,百度聯(lián)合「深度學習技術及應用國家工程實驗室」成立「黃埔學院」,旨在為各行各業(yè)培養(yǎng)第一批「首席 AI 架構師」。

  第一期學員共 35 人,分別來自不同企業(yè)和單位(包括國家衛(wèi)星氣象中心、中油瑞飛、中信銀行、神思電子、OPPO、廣東電網(wǎng)、廣東長隆集團、中國聯(lián)通軟件研究院、華為、米文動力、愛奇藝等),當然楊鋆源是其中之一。

  他們在北京進修半年,在半年時間里,他們結合自身行業(yè)和企業(yè)需求,使用飛槳(PaddlePaddle),將 AI 結合到業(yè)務實踐中應用落地。

  上周日(6 月 16 日)下午,他們在百度科技園熊掌報告廳上完「最后一課」后,28 位通過畢業(yè)答辯的學員獲得了畢業(yè)證書,成為百度認證的業(yè)界首批「首席 AI 架構師」。

  在這半年時光里,陪伴著楊鋆源們一起成長的,還有 PaddlePaddle——中文名為「飛槳」,是由百度自主研發(fā),集深度學習訓練和預測框架、模型庫、工具組件、服務平臺等為一體的開源深度學習平臺。

  2016 年,在百度世界大會上,百度宣布 PaddlePaddle 開源,國內(nèi)首個也是目前唯一一個開源開放、功能完備的端到端深度學習平臺誕生。

  去年,PaddlePaddle 核心框架 Paddle Fluid v1.0 發(fā)布了穩(wěn)定版本;半年來,飛槳(PaddlePaddle)在易用性、性能、模型豐富度等方面取得了大量突破性進展,百度深度學習技術平臺部總監(jiān)、黃埔學院副院長馬艷軍說。

  基于百度多年的產(chǎn)業(yè)應用經(jīng)驗,以及百度大腦生態(tài)伙伴的人工智能解決方案實踐,飛槳(PaddlePaddle)目前已經(jīng)支持六十多個經(jīng)過真實業(yè)務場景驗證的官方模型,涵蓋視覺、自然語言處理、推薦等 AI 核心技術領域。

  在核心框架層面,它提供開發(fā)、訓練和預測一整套的技術能力,它同時支持稠密參數(shù)和稀疏參數(shù)場景,支持千億規(guī)模參數(shù)、數(shù)百個節(jié)點的高效并行訓練,為用戶提供業(yè)界最強的超大規(guī)模并行深度學習能力;它提供性能全面領先的底層加速庫和推理引擎、Paddle Mobile、Paddle Serving、高效自動化模型壓縮庫 PaddleSlim,為用戶提供端到端全流程部署方案;

  為適應工業(yè)大生產(chǎn)階段的「標準化、自動化和模塊化」,它提供包括遷移學習、強化學習、自動化網(wǎng)絡結構設計、訓練可視化工具、彈性深度學習計算等在內(nèi)的工具組件;

  在服務平臺層面,它提供零基礎定制化訓練和服務平臺 EasyDL 和一站式開發(fā)平臺 AI Studio,進一步降低深度學習應用門檻,讓零算法基礎加速推動產(chǎn)業(yè)智能化變革。

  「飛槳(PaddlePaddle)核心框架 Paddle Fluid v1.5 馬上就要發(fā)布」,馬艷軍當日透露。

  飛槳(PaddlePaddle)總架構師于佃海、主任架構師胡曉光和董大祥分別從飛槳的基本能力、設計,模型的穩(wěn)定性和易用性,飛槳在大規(guī)模分布式應用場景中的應用等方面,對飛槳在這半年里取得的進展做了更詳細的介紹。

  于佃海說,最近半年,他們在 OP 的完備性上做了很多建設;飛槳(PaddlePaddle)的 API 也逐漸穩(wěn)定下來;他們還完善了對應的中英文雙語文檔,優(yōu)化了底層性能,并增加了對動態(tài)圖編程的支持。

  胡曉光表示,飛槳(PaddlePaddle)模型庫中模型的數(shù)量已經(jīng)從早期的不到二十個模型,增長到六十多個,覆蓋方方面面,還包含「非常前沿」的模型。

  他還表示,飛槳(PaddlePaddle)提供的算法模型全部源于百度的工業(yè)實踐,歷經(jīng)大規(guī)模數(shù)據(jù)、場景訓練,特別是針對中文的語義表示、情感分析等,百度基于特有的數(shù)據(jù)算法已可提供成熟穩(wěn)定的模型,大幅提升訓練速度和實現(xiàn)效率。比如機器翻譯的模型,在訓練上比其他框架快 60% 以上,預測速度快近 4 倍。

  董大祥透露,他們在大數(shù)據(jù)訓練的過程中做了很多優(yōu)化,包括數(shù)據(jù)分布式的 I/O,隨機打亂等功能。他們將在飛槳(PaddlePaddle)的開源項目里逐步增強模型的異步能力,以更高性價比擴展節(jié)點?!敢子眯苑矫?,1.5 版本會發(fā)布分布式訓練的 API?!?/p>


本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認版權者。如涉及作品內(nèi)容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經(jīng)濟損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。