以ChatGPT為代表的生成式AI讓人們看到了智能世界的無限可能,指數級增長的多元化數據為千行百業的AI場景化奠定了基礎,而如何有效地采集、存儲、傳輸、處理數據和模型則成為實現高質量AI的關鍵。在Rambus大中華區總經理蘇雷看來,AI大流行的時代,訓練和推理都需要海量的數據支持,對于內存產品來說,首先是滿足高帶寬的要求,其次就是要考慮成本和復雜性,“GDDR技術在帶寬、成本和方案復雜性的各因素之間,提供了一種完美的折中技術方案。”
Rambus大中華區總經理蘇雷
作為一家領先的芯片和半導體IP供應商,Rambus致力于使數據傳輸更快更安全,關注產品的產品和方案的易用性,通過一站式的解決方案以及完善的服務機制,使產品方案變得更容易在客戶端集成使用。產品方面,Rambus的內存接口芯片不斷提高數據中心內存模塊的速度和容量,數據安全方面,Rambus有著豐富的安全IP產品線,對用于靜態數據和動態數據安全保護都有專門的產品方案,包括安全信任和MACsec和Ipsec等等,整體來說,Rambus的產品應用領域聚焦于服務器、主內存、智能網卡、網絡服務和交換機,以及面向未來的內存擴展和池化等市場。
【資料圖】
AI技術的深入應用推動了場景化智能的快速發展,數以千億計的參數模型越來越多,對處理器和帶寬提出了更高的要求,很多企業都開始研發定制化的處理器產品,以更好地滿足神經網絡和特定應用。然而,算力的顯著增長并未帶來帶寬的同步改善,很多GPU資源沒有得到充分的使用。把多樣化的數據進行分析、導入模型訓練之后,會在應用場景端進行推理,NLP、數據庫管理等應用越來越多的出現在邊緣環境中,數據傳輸量和響應延遲大幅下降。
“隨著AI推理的應用不斷向邊緣端遷移,我們會把已經訓練過的系統實現更快的處理方式,處理速度的提高是非常大的遷移到邊緣端的優勢。正是在這個變化的趨勢過程中,GDDR6也開始發揮作用。”Rambus IP核產品營銷高級總監Frank Ferro談到,“作為更加理想的方案,GDDR6有著高帶寬和低時延的特性,能夠幫助邊緣端更好地處理數據。”
Rambus IP核產品營銷高級總監Frank Ferro
如今,GDDR在AI/ML場景(如AI推理等)中有著廣泛的使用,還會應用于圖形計算、網絡等場景。與DDR相比,GDDR在帶寬、速度、功耗等方面有著顯著優勢,吸引了更多的客戶將其結合到各類先進設計中。通過Rambus GDDR6 PHY,客戶可以獲得24Gb/s的數據傳輸速率,為每個GDDR6內存設備帶來96GB/s的帶寬。作為系統級解決方案的一部分,Rambus GDDR6可以為AI/ML、圖形和網絡應用提供高效益、高帶寬、低延遲的內存接口解決方案。同時,RambusGDDR6 PHY還有著更優的功耗管理表現。
Rambus的產品實現了PHY和控制器的完整集成,其內存接口系統包括PHY物理層、控制器、DRAM和客戶端ASIC,其中,PHY的物理層與DRAM直接相連,接口由兩個16位插槽組成,共32位,另一側的DFI接口與內存控制器連接,控制器會直接接入整個系統的邏輯控制。Rambus會提供下圖中的藍色部分——即完整的子系統(與Rambus GDDR6數字控制器IP相結合),使得客戶可以根據場景所需進行定制化使用。此外,Rambus可以保障良好的系統級信號完整性和電源完整性(SI/PI),并且支持LabStation開發環境,能夠快速建立系統,進行特性分析和調試。
GDDR6內存接口子系統(控制器+PHY)
在GDDR6時代,有更多的產品開始采用16位雙讀寫通道,可以顯著增加數據的傳輸速度和效率,使得GDDR6內存中的8個雙讀寫通道能夠實現256位的數據傳輸寬度,進一步提升了系統層的效率、優化了功耗,還可以在邊緣環境中大幅降低設備對DDR數量的要求。在AI推理場景中,通常的帶寬需求在200-500Gb/s之間來,每個GDDR6設備的帶寬可以達到96Gb/s,通過將4-5個GDDR6設備進行組合,就能輕松滿足500Gb/s及以下的帶寬需求。
如果是在云端進行AI訓練,對成本因素不敏感的話,也可以選擇更大帶寬的HBM,如果是邊緣端則使用GDDR6效益更好,原因在于,HBM3設備能提供接近800Gb/s的帶寬,遠超AI推理所需的500Gb/s,考慮到其內存設計和制造難度較高,以及高度集成性(會使用一些中間插入層來處理和傳輸數據),并且可能需要更多的板卡空間,會導致成本會提升數倍。
除此之外,Rambus還有著更多的特性,包括clamshell模式,即每個信道可以支持兩個GDDR6的設備,相當于該模式下整個容量翻倍。GDDR6支持先進的FinFET工藝節點,并且會針對PCB和封裝提供相關的參考設計。在開發GDDR6子系統的時候,首先會對數據流進行模擬和建模,這一過程要確保最佳的數據輸出量和吞吐量,控制器、優化器會進一步管理內存數據,利用Look-Ahead技術,可以更好地通過數據順序內存位置進行精準預測,提供更優的數據路徑規劃,提前了解下一批進入DRAM的數據類型,優化應對機制。
Rambus能夠提供靈活的解決方案和一站式服務,包括PHY和控制器集成解決方案,以及全套的測試軟件用于快速啟動、校準和調試,使用交鑰匙的方式把集成測試好的子系統交付給客戶,加速芯片產品上市時間。如果客戶已經擁有控制器IP,只需要PHY IP授權,Rambus也可以單獨授權,并會提供后續相關的集成支持。今年夏季,Rambus GDDR6預計會推出完整的最終硅片,并計劃在2025-2026年有廠商會上市使用GDDR6 IP的芯片。“GDDR會應用在圖形處理器、自動駕駛、AI、5G基礎架構等場景中。Rambus24Gbps GDDR方案的推出,將這些應用提供更高級別的性能和更多的選擇。”蘇雷說。
關鍵詞:
關于我們 廣告服務 手機版 投訴文章:435 226 40@qq.com
Copyright (C) 1999-2020 www.ymshequn.com 愛好者日報網 版權所有 聯系網站:435 226 40@qq.com