隨著生成式AI與預測式AI技術的蓬勃發(fā)展,AI服務器面臨著前所未有的性能與能效挑戰(zhàn)。在這一背景下,NVIDIA推出了其最新的DGX B300 AI加速系統(tǒng),攜手Intel至強6系列處理器,共同定義了AI計算的新標桿。
NVIDIA DGX B300系統(tǒng)內(nèi)置雙路Intel至強6776P處理器,作為主控CPU,至強6776P以其64個核心(128線程)、高達4.6GHz的PCT睿頻能力,為AI加速系統(tǒng)提供了強大的任務管理和預處理性能。這一組合不僅確保了AI模型訓練過程中數(shù)據(jù)的高效供給,還維持了AI處理器的理想運行狀態(tài)。
至強6系列處理器的IO性能同樣令人矚目,支持多達96條PCIe 5.0通道,為不同加速器和擴展卡提供了充足的帶寬和靈活性。此外,其內(nèi)存支持也達到了新的高度,不僅支持DDR5-6400內(nèi)存,還率先引入了MRDIMM內(nèi)存技術,頻率可高達8800MHz,為內(nèi)存敏感性AI負載提供了無與倫比的帶寬與容量。
在AI加速系統(tǒng)中,數(shù)據(jù)預處理和卸載是CPU的重要職責之一。至強6系列處理器通過支持AMX(高級矩陣擴展)指令,新增對FP16數(shù)據(jù)格式的支持,有效提升了這一過程的效率。隨著MoE、MLP等模型的流行,CPU上卸載部分工作已成為趨勢,至強6系列處理器正為此做好了準備。
除了強大的性能外,至強6系列處理器還具備出色的RAS(可靠性、可用性、可維護性)特性,這對于工作站、服務器和數(shù)據(jù)中心硬件至關重要。通過多項高級管理功能,至強6系列處理器能夠大大減少大規(guī)模停機時間,避免高額損失。
NVIDIA DGX B300系統(tǒng)與Intel至強6776P處理器的結(jié)合,不僅展現(xiàn)了雙方在技術上的深厚積累,更為AI加速系統(tǒng)提供了理想的選擇。這一組合在工作負載性能、總體擁有成本之間達到了理想的平衡,為AI計算開啟了新的篇章。無論是從性能、能效還是兼容性的角度來看,Intel至強6系列處理器都是AI加速系統(tǒng)中主控CPU的理想之選。