《電子技術(shù)應(yīng)用》
您所在的位置:首頁(yè) > 通信与网络 > 业界动态 > NXP eIQ深度学习包加速汽车AI应用开发

NXP eIQ深度学习包加速汽车AI应用开发

2019-11-04
來(lái)源:电子工程世界
關(guān)鍵詞: NXPeIQ AI应用

  自動(dòng)駕駛汽車(chē)(AV)的發(fā)展并不一定需要人工智能或深度學(xué)習(xí)。簡(jiǎn)單地說(shuō),不是所有的AV都需要AI驅(qū)動(dòng)。然而,深度學(xué)習(xí)的快速進(jìn)步和準(zhǔn)確性的提高,吸引了尋求改進(jìn)其高度自動(dòng)化工具的開(kāi)發(fā)人員。

  但是仍然存在一些驗(yàn)證人工智能驅(qū)動(dòng)的AV安全性的困難。安全研究人員擔(dān)心深度學(xué)習(xí)的“黑箱”性質(zhì),這只是眾多棘手問(wèn)題的一個(gè)。目前還不確定AV設(shè)計(jì)者是否能夠驗(yàn)證一個(gè)持續(xù)學(xué)習(xí)的AI系統(tǒng)或者功能,一旦部署在車(chē)內(nèi)的專(zhuān)用硬件上,其表現(xiàn)是否會(huì)與在更強(qiáng)大的計(jì)算機(jī)系統(tǒng)上開(kāi)發(fā)和培訓(xùn)時(shí)一樣,這仍是一個(gè)未知數(shù)。

  盡管存在這些問(wèn)題,自動(dòng)駕駛AV和安全領(lǐng)域的專(zhuān)家都認(rèn)識(shí)到人工智能的發(fā)展是不可避免的。

  隨著UL 4600規(guī)范草案的發(fā)布,Edge Case Research的首席技術(shù)官Phil Koopman說(shuō)到:“我們追求的是完全自主?!?/p>

  UL 4600是目前保險(xiǎn)商實(shí)驗(yàn)室正在開(kāi)發(fā)的用于評(píng)估自主產(chǎn)品的安全標(biāo)準(zhǔn),它既不假設(shè)也不要求在AV中部署深度學(xué)習(xí)。但是,該標(biāo)準(zhǔn)涵蓋了對(duì)安全至關(guān)重要的應(yīng)用程序中使用的任何機(jī)器學(xué)習(xí)和其他自治功能的驗(yàn)證。

  具備深度學(xué)習(xí)的汽車(chē)級(jí)軟件工具包

  在此背景下,NXP半導(dǎo)體公司推出了eIQ自動(dòng)深度學(xué)習(xí)工具包,使汽車(chē)AI應(yīng)用開(kāi)發(fā)性能提高30倍,并且能使客戶(hù)更快開(kāi)發(fā)AI應(yīng)用。

  恩智浦半導(dǎo)體汽車(chē)人工智能戰(zhàn)略與伙伴關(guān)系主管Ali Osman Ors表示:“迄今開(kāi)發(fā)的大多數(shù)深度學(xué)習(xí)框架和神經(jīng)網(wǎng)絡(luò)都用于視覺(jué)、語(yǔ)音和自然語(yǔ)言等消費(fèi)者應(yīng)用上。”但它們不一定是在開(kāi)發(fā)與性命攸關(guān)的應(yīng)用程序時(shí)考慮的。

  1572831924765401.jpeg

  作為領(lǐng)先的汽車(chē)芯片供應(yīng)商,NXP正在進(jìn)一步改進(jìn)其軟件工具包,使之符合汽車(chē)軟件性能改進(jìn)和ASPICE能力等級(jí)評(píng)定。ASPICE是德國(guó)汽車(chē)制造商為改善軟件開(kāi)發(fā)過(guò)程而制定的一套指導(dǎo)方針。

  NXP表示, eIQ自動(dòng)工具集專(zhuān)門(mén)為NXP的S32V234處理器設(shè)計(jì),這將幫助AV開(kāi)發(fā)人員優(yōu)化深度學(xué)習(xí)算法的嵌入式硬件開(kāi)發(fā),并加快推向市場(chǎng)的時(shí)間。

  當(dāng)被問(wèn)及是否有類(lèi)似的用于深度學(xué)習(xí)的自動(dòng)評(píng)分工具包時(shí),Ors說(shuō):“一些汽車(chē)原始設(shè)備制造商可能已經(jīng)在內(nèi)部設(shè)計(jì)了他們自己的工具。但據(jù)我所知,我還沒(méi)有見(jiàn)過(guò)其他汽車(chē)芯片供應(yīng)商提供像我們這樣的汽車(chē)質(zhì)量軟件工具包來(lái)進(jìn)行深度學(xué)習(xí)?!?/p>

  修剪、量化、壓縮

  如今,我們對(duì)嵌入式系統(tǒng)的數(shù)據(jù)準(zhǔn)備和訓(xùn)練(學(xué)習(xí))以及人工智能推理的過(guò)程有了很好的理解。

  據(jù)說(shuō)AV開(kāi)發(fā)者在測(cè)試車(chē)輛行駛在公共道路上時(shí),以每秒4Gb的速度收集數(shù)據(jù)。對(duì)如此龐大的數(shù)據(jù)進(jìn)行清理和注釋并將其用于培訓(xùn)數(shù)據(jù)上的代價(jià)非常昂貴。在某些情況下,光是數(shù)據(jù)標(biāo)記處理本身

  的開(kāi)銷(xiāo)就會(huì)大大削弱AV初創(chuàng)公司。

  但對(duì)AV設(shè)計(jì)師來(lái)說(shuō),同樣具有挑戰(zhàn)性的是如何讓優(yōu)化AI模型并將其部署在推理引擎上所涉及的艱巨任務(wù)中去。Ors解釋?zhuān)琋XP的工具加速了神經(jīng)網(wǎng)絡(luò)的“量化、修剪和壓縮”過(guò)程。

  首先,修剪意味著刪除神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)中存在的冗余連接,刪除不重要的權(quán)重。當(dāng)然,新的“修剪”模型將會(huì)失去準(zhǔn)確性。因此,模型必須在修剪后進(jìn)行微調(diào),以恢復(fù)其準(zhǔn)確性。

  接下來(lái),量化創(chuàng)造了一個(gè)“高效的計(jì)算過(guò)程”,它涉及到通過(guò)集群或四舍五入來(lái)綁定權(quán)重,以便使用更少的內(nèi)存來(lái)表示相同數(shù)量的連接。另一種常見(jiàn)的技術(shù)是通過(guò)舍入將浮點(diǎn)權(quán)值轉(zhuǎn)換為定點(diǎn)表示。與修剪一樣,模型在量化后必須進(jìn)行微調(diào)。

  AV設(shè)計(jì)師通過(guò)運(yùn)行測(cè)試數(shù)據(jù)(深度學(xué)習(xí)系統(tǒng)之前沒(méi)有見(jiàn)過(guò))來(lái)評(píng)估轉(zhuǎn)換模型的準(zhǔn)確性,并進(jìn)一步對(duì)模型進(jìn)行微調(diào)。

  1572831926533751.jpeg

  分區(qū)負(fù)載

  除此之外,eIQ Auto對(duì)工作負(fù)載進(jìn)行分區(qū),并為神經(jīng)網(wǎng)絡(luò)的每個(gè)部分選擇最優(yōu)計(jì)算引擎。它加快了手工制作推理引擎的過(guò)程,因?yàn)樵摴ぞ呖梢詭椭鶤V設(shè)計(jì)師找出哪些任務(wù)在CPU、DSP或GPU中運(yùn)行得最好。Ors解釋?zhuān)捎趀IQ Auto必須非常熟悉處理器內(nèi)部的情況,所以它不能用于非NXP設(shè)備。

  eIQ Auto除了提供模型優(yōu)化和使用工具(腳本、編譯器工具鏈)和運(yùn)行庫(kù)(C/ c++、vector DSP、NEON)之外,還提供TensorFlow、ONNX、Caffe、Pytorch等培訓(xùn)框架和模型格式的接口。

  總之,該工具包幫助客戶(hù)快速?gòu)拈_(kāi)發(fā)環(huán)境轉(zhuǎn)移到滿(mǎn)足嚴(yán)格的汽車(chē)標(biāo)準(zhǔn)的AI實(shí)現(xiàn)。

  人工智能在AV中應(yīng)用

  如今,“視覺(jué)”是車(chē)內(nèi)最流行的人工智能應(yīng)用,它利用神經(jīng)網(wǎng)絡(luò)對(duì)圖像上的物體進(jìn)行分類(lèi)。視覺(jué)還用于司機(jī)和機(jī)艙監(jiān)控、人臉識(shí)別和占用率檢測(cè)。

  1572831927359655.jpeg

  在汽車(chē)領(lǐng)域其他潛在的AI應(yīng)用還有雷達(dá)。

  未來(lái)的雷達(dá)有望使用神經(jīng)網(wǎng)絡(luò)根據(jù)其圖像對(duì)道路使用者進(jìn)行分類(lèi)。然而,Ors指出,人工智能在雷達(dá)中的應(yīng)用仍未得到發(fā)展?!坝捎谑褂美走_(dá)作為傳感器的相關(guān)規(guī)定,以及進(jìn)入門(mén)檻會(huì)比較高?!八a(bǔ)充說(shuō):與CMOS圖像傳感器相比,雷達(dá)也很昂貴。這意味著雷達(dá)數(shù)據(jù),不能輕易獲得,從而限制了可用的數(shù)據(jù)集。

  人工智能也有望應(yīng)用于數(shù)據(jù)融合,例如雷達(dá)視覺(jué)。但是,對(duì)于何時(shí)融合兩種感官數(shù)據(jù),業(yè)界還沒(méi)有達(dá)成共識(shí)?!霸缙谌诤虾屯砥谌诤先栽跔?zhēng)論中,”O(jiān)rs表示。

  今天,大多數(shù)測(cè)試的AV都配備了耗電硬件,這對(duì)于大批量的汽車(chē)生產(chǎn)來(lái)說(shuō)并不理想。NXP希望其新的eIQ工具包能夠使客戶(hù)“在具有最高安全性和可靠性的嵌入式處理器環(huán)境中”部署強(qiáng)大的神經(jīng)網(wǎng)絡(luò)。


本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點(diǎn)。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無(wú)法一一聯(lián)系確認(rèn)版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問(wèn)題,請(qǐng)及時(shí)通過(guò)電子郵件或電話(huà)通知我們,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟(jì)損失。聯(lián)系電話(huà):010-82306118;郵箱:aet@chinaaet.com。