在云計算和邊緣計算中，業(yè)界渴求能夠支持各種應用的高性能。為了滿足這一需求，數據中心、網絡集群和邊緣計算站點的運營商正在轉向定制化的加速器技術。
對于需要高性能計算平臺的用戶，專用加速器在實踐中被常用來應對各種挑戰(zhàn);這些用戶不再依靠諸如Intel Xeon系列CPU這樣的傳統通用CPU來支持數據吞吐量不斷增長這一需求。通用CPU的核心問題在于，盡管摩爾定律一直在以大約每兩年就會使每平方毫米硅片中集成的晶體管數量增加一倍的速度演進，但它不再支持時鐘速率的增長。此外，CPU內的并行性很快達到了天花板。因此，其他技術更適合支持新型工作負載，包括如機器學習、基因組研究、數學和統計分析、語音和圖像識別以及數據挖掘和搜索。
與傳統由數據庫驅動的應用相比，這些新的工作負載通常無法很好地映射到傳統CPU流水線上;例如一些神經網絡的訓練已被驗證可以在GPU上運行良好，這些算法可以利用數百個并行浮點著色器內核通過所需的數萬億個步驟來迭代更新一個大型網絡。另一方面，基因組研究和數據搜索需要利用大量的對比步驟，并需處理低分辨率的整數數據。盡管這些工作負載可以利用CPU或GPU來完成處理，但是在這些平臺上運行時，這些任務的計算效率和能效相對較低。自定義的基于ASIC或FPGA的加速器能夠以更低的功耗提供更大的吞吐量，這是因為它們支持設計人員去構建針對這些操作和數據類型進行優(yōu)化的專用電路。
互聯網搜索和社交媒體等領域內的超大規(guī)模數據中心運營商已采用加速器概念來保障其服務器載荷的高效運轉。語音響應系統現在已經被用于日常生活中，并得到了運行在傳統刀片服務器與自定義加速器組合上的人工智能算法的支持。隨著對這些基于機器學習和數據挖掘等技術的應用的需求不斷增長，大量的企業(yè)用戶正在轉向基于加速器的方案，以使他們自己能跟上需求的步伐。據研究機構Research and Markets的分析預測，僅數據中心加速器這一市場的規(guī)模，就將從2018年的28億美元增長到2023年的212億美元，復合年增長率接近50%。
在這種增長之外，加速器的應用還注定將擴展到數據中心之外。諸如虛擬現實、自動駕駛、機器人技術和工業(yè)4.0等領域無法忍受信息在經過遠程數據中心中繼后帶來的電信延遲。越來越多的計算能力將需要被部署在邊緣計算機架中，而被安裝于路邊機柜中、移動基站旁或校園柜子內。
在各種數據中心和邊緣計算用例中，有諸多常見的需求驅動因素，比如能效，快速轉型，以及可擴展性。能效是降低冷卻成本和復雜性以及將電費花銷降到最低的核心要求。低功耗操作在邊緣計算裝置中至關重要，因為其中的環(huán)境溫度的控制功能較弱，并且還需將維護的需求保持在最低限度。
在許多領域中，快速轉型是不可避免的，并會創(chuàng)造新的需求，以便在變化出現時能夠根據要求對應用進行調整和再加工。它不僅僅是對現有應用的更新;通常，新的用例在出現時，都會挑戰(zhàn)用戶及時做出反應的能力。而這些用例可能需要開發(fā)將不同的技術和概念結合在一起的應用，例如將人工智能(AI)功能添加到數學建模和數據挖掘系統中。為了應對這些轉型，用戶需要調用可以很好地進行協同工作的加速器技術，并且各個組件可以通過網絡連接來進行高速通信。
可擴展性同樣重要。隨著面向特定服務的客戶群不斷增長，運營商需要知道他們能夠輕松地增加容量。同樣至關重要的是，具有高效通信能力的高度可編程解決方案通過增加并行性來支持其擴展能力。對諸如100 Gbps以太網和更快的鏈路等協議的支持，可確保能夠使用分布式處理去適應增長。例如，邊緣應用可能會調用云支持，直到本地機柜升級到具有額外的處理能力。
用于加速的硬件平臺
加速器的硬件可以有多種形式。理想的配置是提供PCI Express(PCIe)和高速以太網連接的組合，并可以選擇添加自定義連接以支持諸如環(huán)形、網狀和菊花鏈結構等各種拓撲結構，以滿足應用的各種數據吞吐量需求。對PCIe的支持通過內存映射接口將加速引擎與主處理器和其他加速器緊密集成。能夠在諸如PCIe之類的接口上存儲共享結構來交換數據，就可以極大地簡化分布式應用的開發(fā)。
以100 Gbps或更高速率運行的以太網連接進一步提供了擴展范圍。通過使用它們自有的以太網端口，而不是通過主機的主網絡接口來路由數據包，加速器可以彼此間高效地相互協調。例如，在一個分布式存儲配置中，加速卡可以被直接連接到嵌入式非易失性存儲器(NVMe)模塊上，每個模塊中的獨立搜索引擎使用通過其以太網連接發(fā)送的消息，來識別分散在多個節(jié)點上的數據，從而可以很容易地進行協調。
無論是作為主要的加速技術還是與GPU和其他技術配合使用，FPGA都非常適合數據中心和邊緣計算應用的需求。FPGA的一個關鍵優(yōu)勢是可以在系統中來對其進行編程，以創(chuàng)建各種各樣的數字電路。軟件可以為目標應用選擇配置比特流，并將其發(fā)送以配置FPGA。通過將新模式加載到器件上的邏輯陣列中，FPGA可以根據需要進行動態(tài)更新以承擔新的任務?？删幊绦詣?chuàng)建了由軟件定義的硬件，從而完全支持用戶不僅能夠動態(tài)更改應用，還可以動態(tài)更改支持它們運行的硬件。將硬件可編程性與連接多個加速器的能力相結合，為用戶提供了極大的靈活性。
許多計算類用戶已經意識到FPGA在加速應用中的強大功能。例如，微軟的Catapult項目使用FPGA為其搜索服務構建加速器，并且在其BrainWave項目中使用FPGA進行高速人工智能推理。亞馬遜通過其F1服務提供了可在云端使用的FPGA，這使得到遠程用戶可以容易地部署這項技術。
在其他領域選擇使用FPGA加速也已有一些時間。例如， FPGA邏輯陣列多年來一直被用于軍事和航空航天領域的雷達處理，以及醫(yī)學領域的實時成像。隨著工業(yè)領域接受了實時機器設備健康監(jiān)測等概念，以作為邁向工業(yè)4.0的一部分，用戶可以轉向使用FPGA來提高其算法的質量和響應能力。
相對于使用GPU來進行數據加速，采用FPGA的實現方式通常受益于較低的延遲和更高的能效。GPU的一個關鍵問題是：它們的計算效率通常只是其理論吞吐量的一小部分。因為GPU針對3D圖形渲染流水線進行了優(yōu)化，基于數據高度重用的執(zhí)行流水線設計，導致著色器內核往往會在相對較小的本地存儲以外運行。數據流式工作負載提供的數據重用機會更少，這就意味著需要更頻繁地用新數據來填充存儲器，而這會影響處理時間。CPU中面向緩存的子系統也同樣受制于類似的問題。FPGA可以實現數據自由流動的完整流水線，因此可以提供了遠遠高于GPU或者CPU的計算效率。例如，基因組研究應用的基準測試表明，與基于CPU的實現方式相比，基于FPGA的硬件可將速度提高80倍。
在高性能計算和云計算環(huán)境中，架構師正在轉向FPGA加速以避開系統中其他部分出現的瓶頸。通過將更多工作移交給存儲子系統本身，數據中心用戶可以在效率上得到大幅提升。數據庫加速、數據分析和其他適用于計算型存儲的處理形式可以與加密、去重復數據和安全擦除編碼等低層級服務功能一起被部署在加速器上。
隨著諸如軟件定義網絡(SDN)和網絡功能虛擬化(NFV)等概念的流行，刀片服務器在數據中心內部和數據中心之間的通信管理任務中正發(fā)揮著更為重要的作用。但是，隨著線速增加到100 Gbps甚至更高，Xeon級服務器處理器的處理負擔是非常巨大的，數據中心運營商熱衷于將許多SDN功能的處理工作卸載到附近的加速卡上。在新興的架構中，通用服務器CPU被用于處理異常事件，而同時加速器則負責處理大量的網絡流量。當新的需求、應用和安全威脅出現時，FPGA能夠更新算法和網絡協議處理，從而使它們成為網絡加速的理想基礎平臺。
實施有效加速
被亞馬遜(Amazon)、Facebook和微軟(Microsoft)等超大規(guī)模用戶采用的第一批加速器都是大幅度定制的設計。這些公司能夠在打造自己的板卡設計中確保所需的規(guī)模經濟，無論是基于自己設計的專用集成電路(ASIC)，還是采用現成的FPGA和GPU。從成本和時間的角度來看，對于企業(yè)數據中心和邊緣計算用戶來說，他們難以在這種定制芯片級設計中找到合理的規(guī)模。然而，設計定制的ASIC和板卡并不是必需的。對諸如以太網和PCIe等標準接口的需求，不僅使使用標準板卡級產品成為可能，而且也是可取的。
作為一家長期提供硬件加速產品的供應商，BittWare一直在為從高性能計算到云加速到儀器儀表等眾多領域內的客戶設計采用PCIe尺寸的、基于FPGA的板卡，并在這方面積累了豐富的經驗?，F在，作為Molex集團的子公司，BittWare能夠充分借助其全球供應網絡以及與戴爾(Dell)和惠普企業(yè)(HP Enterprise)等服務器供應商的深厚關系。BittWare是唯一一家可與多家主流FPGA供應商合作的重要批量化供應商，能夠滿足企業(yè)客戶的質量認證、驗證、產品生命周期管理和支持需求，這些客戶希望為關鍵任務型應用去大規(guī)模部署FPGA加速器。
在這些應用中，BittWare實現的一個重要差異化在于該公司為其基于FPGA的加速器提供了廣泛的軟件支持。每個加速卡均配有適用于Linux和Windows系統的驅動軟件，可通過PCIe和以太網連接將其快速集成到各種系統中。除了支持主CPU和加速卡之間的通信外，該驅動還支持接入加速卡上的嵌入式固件。這個固件可以處理眾多管理和自檢功能。
它們使FPGA電路能夠根據需要的新功能重新進行配置，此外還提供了一些對功耗、電壓和溫度的監(jiān)測程序。如果主機系統中的冷卻功能失效，那么擔任管理者的固件可以關閉加速卡，以避免熱過載。此外，軟件組合包還包括各種參考設計，以便開發(fā)人員能夠快速構建配置，使他們可以測試加速卡的功能并開始在其自己的應用上工作。
對于最新一代的加速卡，BittWare與Achronix緊密合作。Achronix是唯一一家能夠同時提供獨立FPGA芯片和嵌入式FPGA(eFPGA)半導體知識產權(IP)的FPGA供應商。VectorPath?S7t-VG6加速卡使用了Achronix采用7nm 工藝打造的、結合了很多功能的Speedster?7t FPGA芯片，不僅可以在內部提供高吞吐量數據加速，而且還支持現今從機器學習到先進儀器等系統所需的高度分布式、網絡化的架構。