以ChatGPT為代表的生成式AI讓人們看到了智能世界的無(wú)限可能，指數(shù)級(jí)增長(zhǎng)的多元化數(shù)據(jù)為千行百業(yè)的AI場(chǎng)景化奠定了基礎(chǔ)，而如何有效地采集、存儲(chǔ)、傳輸、處理數(shù)據(jù)和模型則成為實(shí)現(xiàn)高質(zhì)量AI的關(guān)鍵。在Rambus大中華區(qū)總經(jīng)理蘇雷看來(lái)，AI大流行的時(shí)代，訓(xùn)練和推理都需要海量的數(shù)據(jù)支持，對(duì)于內(nèi)存產(chǎn)品來(lái)說(shuō)，首先是滿足高帶寬的要求，其次就是要考慮成本和復(fù)雜性，“GDDR技術(shù)在帶寬、成本和方案復(fù)雜性的各因素之間，提供了一種完美的折中技術(shù)方案。”

Rambus大中華區(qū)總經(jīng)理蘇雷

作為一家領(lǐng)先的芯片和半導(dǎo)體IP供應(yīng)商，Rambus致力于使數(shù)據(jù)傳輸更快更安全，關(guān)注產(chǎn)品的產(chǎn)品和方案的易用性，通過(guò)一站式的解決方案以及完善的服務(wù)機(jī)制，使產(chǎn)品方案變得更容易在客戶端集成使用。產(chǎn)品方面，Rambus的內(nèi)存接口芯片不斷提高數(shù)據(jù)中心內(nèi)存模塊的速度和容量，數(shù)據(jù)安全方面，Rambus有著豐富的安全I(xiàn)P產(chǎn)品線，對(duì)用于靜態(tài)數(shù)據(jù)和動(dòng)態(tài)數(shù)據(jù)安全保護(hù)都有專門的產(chǎn)品方案，包括安全信任和MACsec和Ipsec等等，整體來(lái)說(shuō)，Rambus的產(chǎn)品應(yīng)用領(lǐng)域聚焦于服務(wù)器、主內(nèi)存、智能網(wǎng)卡、網(wǎng)絡(luò)服務(wù)和交換機(jī)，以及面向未來(lái)的內(nèi)存擴(kuò)展和池化等市場(chǎng)。

(資料圖)

AI技術(shù)的深入應(yīng)用推動(dòng)了場(chǎng)景化智能的快速發(fā)展，數(shù)以千億計(jì)的參數(shù)模型越來(lái)越多，對(duì)處理器和帶寬提出了更高的要求，很多企業(yè)都開(kāi)始研發(fā)定制化的處理器產(chǎn)品，以更好地滿足神經(jīng)網(wǎng)絡(luò)和特定應(yīng)用。然而，算力的顯著增長(zhǎng)并未帶來(lái)帶寬的同步改善，很多GPU資源沒(méi)有得到充分的使用。把多樣化的數(shù)據(jù)進(jìn)行分析、導(dǎo)入模型訓(xùn)練之后，會(huì)在應(yīng)用場(chǎng)景端進(jìn)行推理，NLP、數(shù)據(jù)庫(kù)管理等應(yīng)用越來(lái)越多的出現(xiàn)在邊緣環(huán)境中，數(shù)據(jù)傳輸量和響應(yīng)延遲大幅下降。

“隨著AI推理的應(yīng)用不斷向邊緣端遷移，我們會(huì)把已經(jīng)訓(xùn)練過(guò)的系統(tǒng)實(shí)現(xiàn)更快的處理方式，處理速度的提高是非常大的遷移到邊緣端的優(yōu)勢(shì)。正是在這個(gè)變化的趨勢(shì)過(guò)程中，GDDR6也開(kāi)始發(fā)揮作用。”Rambus IP核產(chǎn)品營(yíng)銷高級(jí)總監(jiān)Frank Ferro談到，“作為更加理想的方案，GDDR6有著高帶寬和低時(shí)延的特性，能夠幫助邊緣端更好地處理數(shù)據(jù)。”

Rambus IP核產(chǎn)品營(yíng)銷高級(jí)總監(jiān)Frank Ferro

如今，GDDR在AI/ML場(chǎng)景（如AI推理等）中有著廣泛的使用，還會(huì)應(yīng)用于圖形計(jì)算、網(wǎng)絡(luò)等場(chǎng)景。與DDR相比，GDDR在帶寬、速度、功耗等方面有著顯著優(yōu)勢(shì)，吸引了更多的客戶將其結(jié)合到各類先進(jìn)設(shè)計(jì)中。通過(guò)Rambus GDDR6 PHY，客戶可以獲得24Gb/s的數(shù)據(jù)傳輸速率，為每個(gè)GDDR6內(nèi)存設(shè)備帶來(lái)96GB/s的帶寬。作為系統(tǒng)級(jí)解決方案的一部分，Rambus GDDR6可以為AI/ML、圖形和網(wǎng)絡(luò)應(yīng)用提供高效益、高帶寬、低延遲的內(nèi)存接口解決方案。同時(shí)，RambusGDDR6 PHY還有著更優(yōu)的功耗管理表現(xiàn)。

Rambus的產(chǎn)品實(shí)現(xiàn)了PHY和控制器的完整集成，其內(nèi)存接口系統(tǒng)包括PHY物理層、控制器、DRAM和客戶端ASIC，其中，PHY的物理層與DRAM直接相連，接口由兩個(gè)16位插槽組成，共32位，另一側(cè)的DFI接口與內(nèi)存控制器連接，控制器會(huì)直接接入整個(gè)系統(tǒng)的邏輯控制。Rambus會(huì)提供下圖中的藍(lán)色部分——即完整的子系統(tǒng)（與Rambus GDDR6數(shù)字控制器IP相結(jié)合），使得客戶可以根據(jù)場(chǎng)景所需進(jìn)行定制化使用。此外，Rambus可以保障良好的系統(tǒng)級(jí)信號(hào)完整性和電源完整性（SI/PI），并且支持LabStation開(kāi)發(fā)環(huán)境，能夠快速建立系統(tǒng)，進(jìn)行特性分析和調(diào)試。

GDDR6內(nèi)存接口子系統(tǒng)（控制器+PHY）

在GDDR6時(shí)代，有更多的產(chǎn)品開(kāi)始采用16位雙讀寫(xiě)通道，可以顯著增加數(shù)據(jù)的傳輸速度和效率，使得GDDR6內(nèi)存中的8個(gè)雙讀寫(xiě)通道能夠?qū)崿F(xiàn)256位的數(shù)據(jù)傳輸寬度，進(jìn)一步提升了系統(tǒng)層的效率、優(yōu)化了功耗，還可以在邊緣環(huán)境中大幅降低設(shè)備對(duì)DDR數(shù)量的要求。在AI推理場(chǎng)景中，通常的帶寬需求在200-500Gb/s之間來(lái)，每個(gè)GDDR6設(shè)備的帶寬可以達(dá)到96Gb/s，通過(guò)將4-5個(gè)GDDR6設(shè)備進(jìn)行組合，就能輕松滿足500Gb/s及以下的帶寬需求。

如果是在云端進(jìn)行AI訓(xùn)練，對(duì)成本因素不敏感的話，也可以選擇更大帶寬的HBM，如果是邊緣端則使用GDDR6效益更好，原因在于，HBM3設(shè)備能提供接近800Gb/s的帶寬，遠(yuǎn)超AI推理所需的500Gb/s，考慮到其內(nèi)存設(shè)計(jì)和制造難度較高，以及高度集成性（會(huì)使用一些中間插入層來(lái)處理和傳輸數(shù)據(jù)），并且可能需要更多的板卡空間，會(huì)導(dǎo)致成本會(huì)提升數(shù)倍。

除此之外，Rambus還有著更多的特性，包括clamshell模式，即每個(gè)信道可以支持兩個(gè)GDDR6的設(shè)備，相當(dāng)于該模式下整個(gè)容量翻倍。GDDR6支持先進(jìn)的FinFET工藝節(jié)點(diǎn)，并且會(huì)針對(duì)PCB和封裝提供相關(guān)的參考設(shè)計(jì)。在開(kāi)發(fā)GDDR6子系統(tǒng)的時(shí)候，首先會(huì)對(duì)數(shù)據(jù)流進(jìn)行模擬和建模，這一過(guò)程要確保最佳的數(shù)據(jù)輸出量和吞吐量，控制器、優(yōu)化器會(huì)進(jìn)一步管理內(nèi)存數(shù)據(jù)，利用Look-Ahead技術(shù)，可以更好地通過(guò)數(shù)據(jù)順序內(nèi)存位置進(jìn)行精準(zhǔn)預(yù)測(cè)，提供更優(yōu)的數(shù)據(jù)路徑規(guī)劃，提前了解下一批進(jìn)入DRAM的數(shù)據(jù)類型，優(yōu)化應(yīng)對(duì)機(jī)制。

Rambus能夠提供靈活的解決方案和一站式服務(wù)，包括PHY和控制器集成解決方案，以及全套的測(cè)試軟件用于快速啟動(dòng)、校準(zhǔn)和調(diào)試，使用交鑰匙的方式把集成測(cè)試好的子系統(tǒng)交付給客戶，加速芯片產(chǎn)品上市時(shí)間。如果客戶已經(jīng)擁有控制器IP，只需要PHY IP授權(quán)，Rambus也可以單獨(dú)授權(quán)，并會(huì)提供后續(xù)相關(guān)的集成支持。今年夏季，Rambus GDDR6預(yù)計(jì)會(huì)推出完整的最終硅片，并計(jì)劃在2025-2026年有廠商會(huì)上市使用GDDR6 IP的芯片。“GDDR會(huì)應(yīng)用在圖形處理器、自動(dòng)駕駛、AI、5G基礎(chǔ)架構(gòu)等場(chǎng)景中。Rambus24Gbps GDDR方案的推出，將這些應(yīng)用提供更高級(jí)別的性能和更多的選擇。”蘇雷說(shuō)。

關(guān)鍵詞：