《電子技術應用》
您所在的位置:首頁 > 人工智能 > 解決方案 > 如何選擇邊緣AI設備

如何選擇邊緣AI設備

2021-08-09
作者:凌華科技物聯(lián)網技術與創(chuàng)新副總裁Toby Mcclean
來源:凌華科技
關鍵詞: 凌華科技 AI 設備

邊緣計算在當下是最受關注的技術趨勢之一。隨著這一趨勢的熱度高漲,也許您認為是時候投資智能邊緣技術,并發(fā)展物聯(lián)網網絡了。但是,在您決定采購新興邊緣設備之前,讓我們先討論一下到底何為邊緣計算、邊緣計算的作用以及您的應用是否能夠受益于邊緣技術。邊緣計算可以大幅提升物聯(lián)網網絡的靈活度、速度和智能化程度,然而邊緣AI設備并不是應對智能網絡應用所有挑戰(zhàn)的靈丹妙藥。在幫助您確定邊緣技術是否適合您的應用之后,本文將探討購買邊緣AI設備時應注意的主要功能和注意事項。

何為邊緣計算?

邊緣計算將物聯(lián)網帶入了另一個階段。在邊緣處,原始數(shù)據(jù)能夠實時轉化為價值。通過在整個網絡中重新分配數(shù)據(jù)處理工作,邊緣計算使網絡節(jié)點、端點和其他智能設備的重要性得以提升、管理得以完善。

邊緣計算可以說是云計算的反面。云計算時,數(shù)據(jù)中心將集中處理從分布式網絡流入的數(shù)據(jù),并將運算結果傳輸回分布式網絡,以觸發(fā)操作或實現(xiàn)更改。然而,遠距離傳輸大量數(shù)據(jù)需要考慮金錢和時間成本,以及功率消耗。

這正是邊緣計算的用武之地:當功率、帶寬和網絡延遲問題至關重要時,邊緣計算或是解決之道。應用集中式云計算時,數(shù)據(jù)在得到處理前可能需要傳輸數(shù)百公里,而邊緣計算可以在抓取、創(chuàng)建或保存數(shù)據(jù)的同一網絡邊緣位置處理數(shù)據(jù)。這意味著邊緣計算的處理延遲幾乎可以忽略不計,對功耗和帶寬的要求通常也會大幅降低。

當今邊緣計算發(fā)展的主要推動力之一是半導體制造商,因為半導體的進步能夠讓芯片在不大幅增加功耗的情況下提高處理能力。位于邊緣的處理器可以在不消耗更多功率的情況下,對所獲取的數(shù)據(jù)進行更多處理。這樣一來,更多的數(shù)據(jù)就可以留在邊緣,而無需傳輸?shù)胶诵?。因此,邊緣計算不僅可以降低系統(tǒng)總功耗,還能縮短響應時間并更好地保護數(shù)據(jù)隱私。

人工智能(AI)和機器學習(ML)等技術也受益于邊緣計算:它們也需要在提高數(shù)據(jù)隱私安全性的同時降低數(shù)據(jù)獲取成本,而這些都可以通過邊緣處理來解決。傳統(tǒng)上,AI和機器學習等技術需要海量資源才能運行,遠非端點或智能設備通??商峁┑牧考墶H欢缃?,硬件和軟件的進步有可能把這些賦能技術嵌入到網絡邊緣更小型、資源更受限的設備中。

評估邊緣AI

在選擇能夠執(zhí)行邊緣處理并運行AI算法或機器學習推理引擎的平臺前,必須進行仔細評估。簡單的傳感器和執(zhí)行器,甚至需要在物聯(lián)網中應用的傳感器和執(zhí)行器,都可以通過較小的集成設備來實現(xiàn)。提高邊緣執(zhí)行處理量需要一個更強大的平臺,并應用高度并行化的架構。這通常意味著需要使用圖形處理器(GPU),但是如果平臺過于強大,也會給網絡邊緣有限的資源帶來負擔。

此外,邊緣設備從根本上來說是現(xiàn)實世界的一個接口,因此需要兼容一些如以太網、GPIO、CAN、串行和/或USB等常見接口技術,并支持如攝像頭、鍵盤和顯示器等外圍設備。

與環(huán)境因素可控的數(shù)據(jù)中心相比,邊緣環(huán)境可能截然不同:邊緣設備可能會暴露在極端的溫度、濕度、振動,甚至高原環(huán)境中。這些因素將影響設備選擇及其包裝或安裝的方式。

還需考慮的另一重要方面是法規(guī)要求。任何使用射頻(RF)進行通信的設備都會受到法規(guī)的管制,并且可能需要獲得許可才能使用。某些平臺能夠“開箱即用”,但其他平臺可能需要投入更多精力。平臺一旦投入使用,就不太可能進行硬件升級,因此在設計平臺時就應謹慎確定其處理能力、內存和存儲,為將來的性能提升留出空間。

這其中就包括軟件升級。與硬件不同,軟件更新部署在設備不在現(xiàn)場的情況下也可實現(xiàn)。如今,這種無線更新(OTA)方式非常普遍,未來大多邊緣設備都可能支持OTA更新。

要想選對解決方案,需要仔細評估以上所有要點,并符合應用的特定需求。設備是否需要處理視頻數(shù)據(jù)或音頻?它僅需要監(jiān)測溫度,還是也需要監(jiān)測其他環(huán)境指標?它是否需要始終處于開啟狀態(tài),還是會長時間休眠?它會被外部事件觸發(fā)嗎?上述大部分要求適用于部署在邊緣的所有技術,但是隨著客戶對處理水平和產出的期望提高,需求清單也有必要隨之擴展。

邊緣計算的優(yōu)勢

從技術上講,現(xiàn)在AI和機器學習可以被應用于邊緣設備和智能節(jié)點中,這將帶來重大的機遇。這意味著處理引擎不僅離數(shù)據(jù)源更近,而且可以利用所收集的數(shù)據(jù),開展更多的工作。

邊緣計算的優(yōu)點著實不少。首先,它能夠提高其使用數(shù)據(jù)的生產率或效率。其次,由于需要移動的數(shù)據(jù)較少,邊緣計算能夠簡化網絡架構。第三,它使設備與數(shù)據(jù)中心的鄰近性變得不那么重要。如果數(shù)據(jù)中心位于城市中心并離執(zhí)行任務的地點很近,那么最后一點似乎無足輕重,但是如果網絡邊緣位于如農場或水處理工廠等遙遠的地點,邊緣計算就會帶來很大的不同。

數(shù)據(jù)在互聯(lián)網上飛速移動。當?shù)弥约旱乃阉鹘Y果可能繞了地球兩圈才顯示在屏幕上,多數(shù)人可能會感到驚訝,因為總耗時可能只有幾分之一秒,這對我們來說只是彈指瞬間。但是,對組成互聯(lián)、智能且通常是自主的傳感器和執(zhí)行器和其他智能設備而言,每秒鐘都像一小時。

這種往返延遲是實時系統(tǒng)的制造商和開發(fā)者需要重視的問題。數(shù)據(jù)往返于數(shù)據(jù)中心的耗時并非無關緊要,也肯定不是瞬時的,而縮短延遲就是邊緣計算的關鍵目標。邊緣計算能夠與5G等速度更快的網絡整合。但需要注意的是,隨著越來越多的設備上線,網絡提速也將無法解決累積的網絡延遲問題。

據(jù)預測,到2030年,可能有多達500億互聯(lián)設備在線。如果每一臺設備都需要通往數(shù)據(jù)中心的寬帶,網絡將一直堵塞。如果每臺設備的操作都需要等待數(shù)據(jù)從上一階段到達才能進行,總延遲很快就會變得非常明顯。因此,邊緣計算是緩解網絡堵塞的唯一實用解決方案。

然而,盡管大多數(shù)應用都需要邊緣計算支持,但其優(yōu)勢仍很大程度上取決于應用本身。邊緣計算定律將幫助工程團隊確定邊緣計算是否適合某些特定應用。

邊緣計算的四大定律

毋庸置疑,第一定律是物理定律。射頻能量的優(yōu)點是它能以光速傳播,就像光纖網絡中的光子一樣。但缺點是它們無法更快速地傳輸。因此,如果射頻能量的往返時間仍然較長,邊緣計算可能更好的選擇。

Ping測試提供了一種簡單的方法來測量數(shù)據(jù)包在兩個網絡端點之間傳輸所需的時間。在線游戲通常托管在多臺服務器上,游戲玩家需要對服務器進行ping操作,直至找到延遲最小的服務器,以實現(xiàn)最快速的數(shù)據(jù)傳輸。由此可見,即使十分之一秒對于時間敏感型的數(shù)據(jù)也十分關鍵。

網絡延遲不只取決于傳輸機制。數(shù)據(jù)傳輸?shù)膬啥硕加芯幋a器和解碼器,物理層需要將電子轉換為正在使用的某一能量形式,然后再將其轉換回去。即使處理器以GHz級的速度運行,這一過程也需要時間,且移動的數(shù)據(jù)量越大,所需時間越長。

第二定律是經濟學定律。該定律相對更為靈活,但是隨著對處理和存儲資源的需求猛增,其可預測性也越來越差。利潤本就微薄,如果在云中處理數(shù)據(jù)的成本突然上升,就可能造成虧損。

云服務的成本包括購買或租用服務器、機架或刀片。成本高低可能取決于CPU內核數(shù)、所需的RAM或永久存儲量、以及服務級別。相較于缺乏保障的服務,可以保障正常運營時間所需的服務成本會更高。網絡帶寬基本上是免費的,但是如果需要帶寬始終保持某一標準,則將需要為此服務付費,在評估成本時需要考慮這一點。

話雖如此,邊緣數(shù)據(jù)處理的成本不會大幅波動。一旦支付了設備的初始成本,在邊緣處理任何數(shù)量數(shù)據(jù)的額外成本幾乎為零。

數(shù)據(jù)有價值是由于其攜帶的信息。這就與第三定律有關,即土地定律?,F(xiàn)在,任何捕獲信息的人可能都需要遵守捕獲數(shù)據(jù)所在區(qū)域的數(shù)據(jù)隱私法。這意味著即使您是數(shù)據(jù)設備的合法所有者,可能也不被允許跨地理邊界傳輸該數(shù)據(jù)。

相關規(guī)定包括歐盟數(shù)據(jù)保護指令、通用數(shù)據(jù)保護條例(GDPR)和亞太經濟合作組織隱私框架。加拿大的《個人信息保護和電子文件法》符合歐盟的數(shù)據(jù)保護法,而美國的《安全港安排》也顯示了類似的合規(guī)性。

然而,邊緣處理可以解決這一問題。通過在邊緣處理數(shù)據(jù),數(shù)據(jù)就無需離開設備。便攜式消費設備的數(shù)據(jù)隱私變得越來越重要。手機上的面部識別使用本地AI來處理相機圖像,因此數(shù)據(jù)永遠不會離開設備。同樣,閉路電視(CCTV)和其他安全監(jiān)視系統(tǒng)使用攝像頭來監(jiān)控公共空間,圖像通常需要經過基于云的數(shù)據(jù)服務器進行傳輸與處理,這就帶來了數(shù)據(jù)隱私問題。通過邊緣計算,數(shù)據(jù)就可在攝像頭端直接處理,更快速安全,并有可能消除或簡化對數(shù)據(jù)隱私措施的需求。

最后,我們要考慮墨菲定律,即如果某些地方可能出錯,那么它終將出錯。當然,即使最精心設計的系統(tǒng)也總有可能出錯。通過網絡傳輸數(shù)據(jù)、在云端存儲數(shù)據(jù)并在數(shù)據(jù)中心處理數(shù)據(jù)的整個過程中可能會出現(xiàn)許多故障,而邊緣處理可以避免冗長過程中可能出現(xiàn)的故障。

提出有關邊緣計算的正確問題

即使您的應用能夠受益于邊緣處理技術,仍然有一些問題需要加以考量。以下是一些最為相關的問題:

1.您的應用在哪種處理器架構上運行?將軟件移植到不同的指令集上可能代價高昂并造成延遲,因此升級并不意味著要使用另一架構。

2.您需要哪種I/O?這可以是任何數(shù)量的有線和/或無線接口。日后添加會導致效率低下,因此需要盡早確定。

3.設備的運行環(huán)境如何?是極熱、極冷還是兩者兼而有之?火星任務是很好的“邊緣處理”示例,其運行環(huán)境十分多變!

4.您的硬件是否需要遵守法規(guī)或經過認證?答案幾乎是肯定的,因此選擇經過預認證的平臺能夠節(jié)省時間和成本。

5.設備需要多大的功率?就單位成本和安裝而言,系統(tǒng)功能非常昂貴,因此了解到底多少算“足夠”非常重要。

6.邊緣設備是否受制于外形尺寸?與其他許多部署相比,這在邊緣處理中更為重要,因此在設計周期的早期就應予以考慮。

7.服務時長有多久? 設備將用于可能需要運行多年的工業(yè)應用,還是以月為單位衡量生命周期?

8.就處理能力而言,系統(tǒng)性能要求是怎樣的? 比如每秒的幀數(shù)?有哪些內存要求?應用使用什么語言?

9.有成本方面的考量嗎?這是一個棘手的問題,因為答案是肯定的,但是了解成本限制會有助于您做出選擇。

結論

邊緣處理體現(xiàn)自物聯(lián)網,但還不止于此。其驅動力來自于比實現(xiàn)上述互聯(lián)設備更高的期望。在基本層面上,設備可能需要低功耗低成本,但是現(xiàn)在還需要提供更高級別的智能操作,并且不影響功耗和成本。

選對技術合作伙伴,就能輕松選擇合適的平臺。凌華科技擁有廣泛的邊緣處理解決方案組合,并與眾多提供互補技術的公司合作。歡迎加入邊緣計算開發(fā)生態(tài)系統(tǒng),我們將更好地助力您為AI應用選擇合適的邊緣計算平臺。

本站內容除特別聲明的原創(chuàng)文章之外,轉載內容只為傳遞更多信息,并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創(chuàng)文章及圖片等內容無法一一聯(lián)系確認版權者。如涉及作品內容、版權和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經濟損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。