今天，美國內存 IP 廠商 Rambus 宣布推出 HBM3 內存接口子系統，其傳輸速率達 8.4Gbps， 可以為人工智能/機器學習 （AI/ML） 和高性能計算 （HPC） 等應用提供 TB 級帶寬，是當前速率最快的 HBM 產品。預計 2022 年末或 2023 年初 ，Rambus HBM3 將會流片，實際應用於數據中心 、AI、HPC 等領域。
芯東西（公眾號 ：aichip001）
作者 | 高歌
編輯 | Panken
芯東西等媒體與 Rambus 大中華區總經理蘇雷 、Rambus IP 核產品營銷高級總監 Frank Ferro 就 Rambus HBM3 的具體性能以及 Rambus 對客戶的支持等進行了深入交流。
一、支持 8.4Gbps 數據傳輸速率，帶寬超 TB
據 Frank 分享，隨着越來越多的公司進入人工智能市場，這對內存帶寬提出了很多要求，而神經網絡和深度學習等 AI 應用也在不斷推動內存帶寬增長。
諮詢公司 IDC 內存半導體副總裁 Soo Kyoum Kim 曾稱 ：“AI/ML 訓練對內存帶寬的需求永無止境，一些前沿訓練模型現已擁有數以十億的參數。”
Rambus 的 HBM3 內存子系統提高了原有性能標準，包含完全集成的 PHY 和數字控制器，可以支持當下很多 AI 及 HPC 應用。
具體來說 ，HBM3 的數據傳輸速率高達 8.4Gbps/pin， 帶寬達 1075.2GB/s（1.075TB/s）。Rambus 的 HBM3 支持標準的 64 位 16 通道，支持 2、4、8、12 和 16 HBM3 DRAM 堆棧，信道密度達 32Gb。
Frank 回應芯東西記者問題時稱 ，HBM3 的流片時間預計為 18 個月，因此可能會在 2022 年末或 2023 年初出片，並實際應用於部分客戶。
▲ Rambus HBM3 產品性能亮點與目標市場
Frank 稱，由於其數據傳輸速率和帶寬較高 ，HBM3 可以應用於 AI、 機器學習 、HPC 等多種應用。
HBM3 採用了 2.5D 架構，最上面集成了 4 條 DRAM 內存條，通過堆疊的方式集成在了一起。內存條下方是 SoC 和中介層，最下面的綠色部分則是封裝。
對客戶來說 ，Rambus 會提供 SI/PI 專家技術支持，確保設備和系統具有最優的信號和電源完整性。作為 IP 授權的一部分 ，Rambus 也將提供 2.5D 封裝和中介層參考設計。
▲ Rambus HBM3 產品架構
Frank 還給出了 HBM 性能的演進圖。
2016 年 HBM2 的帶寬為 256GB/s，I/O 數據速率為 2Gbps；HBM2E 的帶寬則能達到 460GB/s， 數據傳輸速率達 3.6Gbps；SK 海力士公布的 HBM3 帶寬和傳輸速率分別為 665GB/s 和 5.2Gbps；Rambus 的 HBM3 性能又進一步提升，分別達 1075GB/s 和 8.4Gbps。
▲ HBM 產品性能演進圖
Frank 強調，雖然 Rambus 的 HBM3 性能比 SK 海力士此前公布的要更進一步，但 SK 海力士作為 Rambus 的重要客戶 ，Rambus 也會為其提供支持。
蘇雷還透露，當前國內的一流 AI 芯片廠商都和 Rambus 有所接觸，預計行業將會快速升級到 HBM3 標準。
二 、Rambus 優勢：市場經驗豐富、支持多廠商製程節點
對於 Rambus 能夠為客戶提供的服務 ，Frank 提到 Rambus 在 HBM 市場中擁有豐富的經驗和技術優勢。
Rambus 在 2016 年就進入了 HBM 市場，其 HBM2E 內存子系統擁有行業中最快的 4Gbps 速率。
憑藉產品性能 ，Rambus 獲得了超過 50 個市場訂單，是市場份額排名第一的 HBM IP 供應商 。Rambus 的芯片開發基本一次就能成功，無需返工，提升了設計效率。
同時 ，Rambus 的 HBM2/2E PHY（ 端口物理層）支持台積電、三星等多個先進製程節點。其產品集成了 PHY、IO、Decap 等，其客戶可以直接採用。
Rambus 也與 SK 海力士、三星等 DRAM 供應商關係緊密，其測試芯片已經經過了市場上所有供應商的 DRAM 驗證，能夠為客戶提供便捷地服務。
▲ Rambus 在 HBM 市場中的優勢
三 、2025 年全球數據使用量將達到 175ZB，AI 芯片市場將達百億美元
Rambus 大中華區總經理蘇雷分享了近年來 Rambus 所取得的成績 。Rambus 創建時間已經超過 30 年，公司總部位於美國加利福尼亞州，在歐盟和亞洲等地設有辦事處，全球員工人數超過 600 人。
Rambus 擁有 3000 余項專利和應用 ，2020 年經營現金流達 1.855 億美元，來自產品、合同等收入同比增長 41%。 其主要的客戶有三星、美光 、SK 海力士等內存廠商和高通 、AMD、 英特爾等芯片廠商 ，Rambus 75% 以上的收入來自於數據中心和邊緣計算產品銷售。
▲半導體產業生態
從市場來說，人工智能/機器學習越來越多地應用於各個領域。預計到 2025 年，超過 25% 的服務器將用於人工智能領域 ，AI 芯片市場將達到 100 億美元。
2025 年，全球數據使用量將達到 175ZB， 年均複合增長率達 35%， 服務器整體年增長率為 8%。 蘇雷稱 ，Rambus 也將致力於使數據傳輸更快、更安全。
▲數據中心市場趨勢
結語 ：HBM3 將推動 AI、HPC 應用發展
相對於 GDDR 顯存 ，HBM 有着高帶寬的特性，是數據密集型應用內存和數據處理瓶頸的解決方案之一。
本次 Rambus HBM3 IP 的推出，將再次推動 HBM 產品性能的提升，推動人工智能、高性能計算等應用發展。