9月4日,在臺北舉行的“Semicon Taiwan 2024”展會上,三星電子存儲器事業(yè)本部部長李正培(Jung-Bae Lee)作為主題演講嘉賓,介紹了三星的HBM優(yōu)勢。
李正培表示,目前AI時代遇三大挑戰(zhàn),即能耗、因內(nèi)存帶寬限制帶來的AI性能限制,以及儲存容量限制。由于帶寬和內(nèi)存容量需求增加,目前的HBM構(gòu)架已經(jīng)無法滿足需求,加上HBM能耗較高,即數(shù)據(jù)傳輸與GPU間的能耗較高,因此三星將推出新的HBM構(gòu)架,以減少當中傳輸。
三星提出的新的解決方案與SK海力士一樣,雖然HBM3E及之前的HBM都是采用DRAM制程的基礎(chǔ)裸片(Base Die),采用2.5D 系統(tǒng)級封裝,但是到HBM4都計劃將DRAM Base Die 改成Logic Base Die,以及3D封裝,以推動性能和能效進一步提升。
具體來說,這個Logic Base die是連接AI加速器內(nèi)部圖形處理單元(GPU)和DRAM的必備組件,位于DRAM的底部,主要充當GPU和內(nèi)存之間的一種控制器,并且這個Logic Base Die與之前的Base Die不同,它可以讓客戶自行設(shè)計,可以加入客戶自己的IP,有利于HBM實現(xiàn)定制化,從而讓數(shù)據(jù)處理更為高效。預計可以將功耗大幅降低至之前的30%。
三星在HBM4以前的DRAM制程Base Die,都是由自家內(nèi)存部門負責制造,但隨著下一代的HBM4的Base Die轉(zhuǎn)向 Logic Base Die,這部分則將交由邏輯制程晶圓代工廠制造,三星存儲部門則負責制造核心的DRAM Die,因此未來內(nèi)存制造商和晶圓代工業(yè)者與客戶的合作關(guān)系越來越緊密。
李正培表示,“僅靠現(xiàn)有的存儲器工藝來提高HBM的性能是有限的,必須結(jié)合邏輯制程才能最大限度地提高 HBM 性能?!辈贿^,這個Logic Base Die的制造并不會限制客戶交由三星設(shè)計(幫助客戶加入客戶自己的IP或者選擇三星提供的IP)或一定要使用三星晶圓代工廠來代工,客戶可以自由選擇。
但是,李正培也指出,三星在生產(chǎn)定制 HBM 方面具有優(yōu)勢,因為三星同時擁有半導體設(shè)計和晶圓代工能力,并且在市場上擁有強大的地位。
另外,三星也將推進新的HBM封裝技術(shù),將通過HCB連接技術(shù),使堆疊增加30%、熱阻(thermal resistance)減少20%,再通過3D封裝實現(xiàn)更大帶寬、更大容量、能耗更少。比如Logic Base Die和內(nèi)存之間的帶寬可以達到70.5TB/s。
最后,李正培強調(diào),三星可以一次性完成從Logic Base Die設(shè)計、代工制造、封裝的所有工作,可以提供一站式的服務。也可以與很多生態(tài)系伙伴共同合作,滿足客戶不同需求,可使用不同伙伴的設(shè)計和服務。
相比之下,SK海力士在邏輯制程的能力上存在一定的欠缺,為了解決這一問題,SK海力士也計劃和臺積電進行合作。雖然此前SK海力士自己制造Base Die,但從第6代的HBM4開始,將會委托臺積電生產(chǎn)Logic Base Die,以進一步提升效率。