《電子技術(shù)應(yīng)用》
您所在的位置:首頁 > 人工智能 > 業(yè)界動態(tài) > 美光 MRDIMM 創(chuàng)新技術(shù)打造最高性能、低延遲主存,為數(shù)據(jù)中心工作負(fù)載加速

美光 MRDIMM 創(chuàng)新技術(shù)打造最高性能、低延遲主存,為數(shù)據(jù)中心工作負(fù)載加速

突破性的美光 MRDIMM 具備高達(dá) 256GB 容量和 40% 更低延遲,賦能 AI 及 HPC 等內(nèi)存密集型應(yīng)用
2024-07-24
來源:美光科技股份有限公司
關(guān)鍵詞: 美光 MRDIMM AI

  2024 年 7 月 18 日,中國上海 — 美光科技股份有限公司(納斯達(dá)克股票代碼:MU)近日宣布,已出樣多路復(fù)用雙列直插式內(nèi)存模塊(MRDIMM)。該款 MRDIMM 將賦能美光客戶應(yīng)對日益繁重的工作負(fù)載,從而最大化計算基礎(chǔ)設(shè)施的價值。對于需要每個 DIMM 插槽內(nèi)存超過 128GB 的應(yīng)用,美光 MRDIMM 提供最高帶寬、最大容量、最低延遲以及更高的每瓦性能,在加速內(nèi)存密集型虛擬化多租戶、高性能計算和 AI 數(shù)據(jù)中心工作負(fù)載方面,表現(xiàn)優(yōu)于當(dāng)前的 TSV RDIMM。1 該款全新內(nèi)存產(chǎn)品為美光 MRDIMM 系列的首代,將與英特爾? 至強(qiáng)? 6 處理器兼容。

  美光副總裁暨計算產(chǎn)品事業(yè)群總經(jīng)理 Praveen Vaidyanathan 表示:“美光最新的創(chuàng)新主存解決方案 MRDIMM 為下一代服務(wù)器平臺提供了亟需的帶寬和容量,并降低了延遲,旨在擴(kuò)展 AI 推理和高性能計算應(yīng)用。MRDIMM 在提供與 RDIMM 相同的可靠性、可用性、適用性和接口的同時,顯著降低了每項任務(wù)的能耗,為客戶帶來了性能可擴(kuò)展的靈活解決方案。美光與業(yè)界的緊密合作,確保該解決方案能與現(xiàn)有服務(wù)器基礎(chǔ)設(shè)施無縫集成,并順利過渡到未來的計算平臺?!?/p>

  通過實施 DDR5 的物理和電氣標(biāo)準(zhǔn),MRDIMM 實現(xiàn)了內(nèi)存技術(shù)的突破,使單核心的帶寬和容量得以擴(kuò)展,為未來的計算系統(tǒng)提供堅實保障,并能滿足數(shù)據(jù)中心工作負(fù)載日益增長的需求。與 RDIMM 相比,MRDIMM 具有以下優(yōu)勢:2

  ·有效內(nèi)存帶寬提升高達(dá) 39%2

  ·總線效率提升超過 15%2

  ·與 RDIMM 相比,延遲降低高達(dá) 40%3

  MRDIMM 支持從 32GB 到 256GB 廣泛的容量選擇,涵蓋標(biāo)準(zhǔn)型和高型外形規(guī)格(TFF),適用于高性能的 1U 和 2U 服務(wù)器。得益于 TFF 模塊優(yōu)化的散熱設(shè)計,在同等功耗和氣流條件下,DRAM 溫度可降低高達(dá) 20 攝氏度,4為數(shù)據(jù)中心帶來更高效的散熱,并優(yōu)化內(nèi)存密集型工作負(fù)載的總系統(tǒng)任務(wù)能耗。美光憑借業(yè)界領(lǐng)先的內(nèi)存設(shè)計和制程技術(shù),在 256GB TFF MRDIMM 上采用 32Gb DRAM 芯片,實現(xiàn)了與采用 16Gb 芯片的 128GB TFF MRDIMM 相同的功耗表現(xiàn)。在最大數(shù)據(jù)傳輸速率下,256GB TFF MRDIMM 的性能比相同容量的 TSV RDIMM 提升 35%。5與 TSV RDIMM 相比,使用 256GB TFF MRDIMM,數(shù)據(jù)中心可以獲得前所未有的總體擁有成本(TCO)優(yōu)勢。

  英特爾副總裁兼數(shù)據(jù)中心至強(qiáng) 6 產(chǎn)品管理總經(jīng)理 Matt Langman 表示:“借助 DDR5 接口和技術(shù),MRDIMM 實現(xiàn)了與現(xiàn)有英特爾? 至強(qiáng)? 6 處理器平臺的無縫兼容,為客戶帶來了更高的靈活性和更多選擇。MRDIMM 為客戶提供全面的選項,包括更高的帶寬、更低的延遲以及多樣的容量規(guī)格,適用于高性能計算、AI 及多種工作負(fù)載,且這一切均在同一支持標(biāo)準(zhǔn) DIMM 的英特爾? 至強(qiáng)? 6 處理器平臺上實現(xiàn)。我們的客戶將從美光廣泛的 MRDIMM 產(chǎn)品組合中受益,這些產(chǎn)品涵蓋從 32GB 到 256GB 的不同容量,包括標(biāo)準(zhǔn)和高型兩種外形規(guī)格,并將與英特爾? 至強(qiáng)? 6 平臺進(jìn)行驗證?!?/p>

  聯(lián)想集團(tuán)副總裁兼人工智能和高性能計算總經(jīng)理 Scott Tease 表示:“隨著處理器和 GPU 供應(yīng)商提供的產(chǎn)品核心數(shù)呈指數(shù)級增長,所需的內(nèi)存帶寬卻未能跟上這一趨勢,以滿足系統(tǒng)性能平衡的需求。針對內(nèi)存密集型任務(wù),如 AI 推理、AI 再訓(xùn)練以及眾多高性能計算工作負(fù)載,美光 MRDIMM 將助力縮小帶寬差距。我們與美光的合作愈發(fā)緊密,致力于為我們共同的客戶提供平衡、高性能、可持續(xù)的技術(shù)解決方案?!?/p>

  美光 MRDIMM 現(xiàn)已開售,并將于 2024 年下半年批量出貨。后續(xù)幾代 MRDIMM 產(chǎn)品將繼續(xù)提供比同代 RDIMM 高 45% 的單通道內(nèi)存帶寬。6

  1基于 GNR-AP 平臺,使用英特爾 Memory Latency Checker(MLC)工具,針對 MRDIMM(經(jīng)驗數(shù)據(jù)為 8800MT/s)和 TSV RDIMM(預(yù)估數(shù)據(jù)為 6400MT/s)在不同內(nèi)存時鐘下的只讀帶寬數(shù)據(jù)進(jìn)行測試。

  2基于英特爾 Memory Latency Checker(MLC)工具,對 128GB MRDIMM 8800MT/s 與 128GB RDIMM 6400MT/s 進(jìn)行經(jīng)驗數(shù)據(jù)對比測試。

  3基于經(jīng)驗得出 Stream Triad 數(shù)據(jù),對 128GB MRDIMM 8800MT/s 與 128GB RDIMM 6400MT/s 進(jìn)行對比。

  4最高 DRAM 溫度模擬對比:1U 服務(wù)器機(jī)箱中的標(biāo)準(zhǔn)外形規(guī)格(SFF)DIMM 與 2U 服務(wù)器機(jī)箱中的高型外形規(guī)格(TFF)MRDIMM。

  5基于 GNR-AP 平臺,使用英特爾 Memory Latency Checker(MLC)工具,針對 MRDIMM (經(jīng)驗數(shù)據(jù)為8800MT/s)和當(dāng)前一代 TSV RDIMM(預(yù)估數(shù)據(jù)為6400MT/s)在不同內(nèi)存時鐘下的只讀帶寬數(shù)據(jù)進(jìn)行測試。

  6基于 MRDIMM 相對于 RDIMM 的預(yù)期未來速率,數(shù)據(jù)傳輸速率將有所提升。




更多精彩內(nèi)容歡迎點(diǎn)擊==>>電子技術(shù)應(yīng)用-AET<<

3952966954c9c6c308355d1d28d750b.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點(diǎn)。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認(rèn)版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當(dāng)措施,避免給雙方造成不必要的經(jīng)濟(jì)損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。