三星首款36GB超大容量HBM3E記憶體亮相NVIDIA GTC 2024技術大會
近日,引領科技潮流的快科技釋出訊息稱,全球首款36GB超大容量的新一代高頻寬記憶體HBM3E即將問世。這一創新產品將於3月19日凌晨在NVIDIA GTC 2024技術大會上進行首次亮相,由備受矚目的三星公司傾力呈現。三星HBM3E記憶體採用了24Gb顆粒、12層堆疊技術,單顆容量達到36GB,並將頻寬提升至1280GB/s,這一突破性進展使得前代8H HBM3產品在容量和頻寬上均獲得了50%以上的提升,垂直密度更是實現了超過20%的增長。
據悉,NVIDIA旗下的H200 AI加速卡將是首批搭載三星36GB HBM3E記憶體的產品。僅需八顆這種高效能記憶體顆粒,H200 AI加速卡就可實現6144-bit的位寬和達到216GB的儲存容量。這一配置不僅超越了搭載192GB HBM3記憶體的AMD Instinct MI300X,而且支援四路、八路互連技術,使得單系統的HBM3E記憶體容量能夠輕鬆達到864GB或1728GB的水平。
根據相關資料顯示,NVIDIA可能會在生產過程中鑑定部分容量存在問題,為了保證產品品質,可能會略微減少容量。但即便如此,超過200GB的單卡容量和1.6TB的單系統容量依然將輕而易舉地實現。
NVIDIA透露,儘管H200仍屬於Hopper架構系列,但其效能表現已經實現質的飛越。相較於前代產品A100 HPC,在處理700億引數的Llama2和1750億引數的GTP-3模型時,H200的推理效能分別提升了高達90%和60%,直接將前代處理器的效能水平翻倍。
根據計劃,NVIDIA將於2024年第二季度正式推出H200產品,而三星的36GB HBM3E記憶體將在第一季度開始大規模生產,望其中規劃之好,可謂呼應默契。
在科技前沿探索未來的可能
科技日新月異,36GB超大容量的HBM3E記憶體和相應產品在NVIDIA GTC 2024技術大會上的亮相,為科技發展開闢了新的視野。藉助三星公司的前沿技術和NVIDIA的強大平臺,未來的計算和推理能力將得以全面提升,為人們的生活和工作帶來更多可能性。
值得期待的是,隨著H200產品的推出以及HBM3E記憶體的投入使用,各行各業將迎來更高效、更智慧的解決方案。而NVIDIA和三星在這一合作中所展現的技術實力和創新潛力,也將成為推動整個科技產業向前邁進的強大動力。
敬請期待更多關於HBM3E記憶體和H200產品的相關報道,讓我們一同探索科技的未來,開啟更加美好的數字化時代。