Arista 客戶案例——助力 Meta 打造 AI 基礎設施

2024年11月28日

Meta 已經在其最新的基于以太網的 AI 集群中部署了Arista 7700R4 分布式以太網交換機（DES）。

當 ChatGPT 開始與更廣泛的世界產生共鳴時，AI 市場發生了變化。Arista 與 Meta 在共同開發上的合作可以追溯到2018年發布的“7368X4”迷你包100G系統，隨后是一系列 OCP 相關的系統，這些系統被廣泛部署。

人工智能網絡的持續演變

Arista 在高性能計算（HPC）、AI 和機器學習方面的經驗可以追溯到公司成立之初，當時許多首批客戶正在構建大型計算網絡來處理工作負載——用于石油和天然氣、研究、醫療、金融（高頻交易）等領域。2008年的網絡需求特征與2024年的并沒有太大不同——非阻塞性能、高速接口、流量管理工具、監控和可見性，不同的是規模。2010年的一個典型 HPC 集群運行在10G以太網上，有幾百個節點連接到一個模塊化的7500E系列系統的網絡。到了2024年，事實上的標準速度是400G以太網，互連運行在800G，AI 集群的規模增加到了數萬個計算節點，每個節點都包含多個XPU。

隨著大型人工智能語言模型（LLM）的擴展，更高的帶寬和更具挑戰性的工作負載越來越適合以太網！

苛刻的 AI 應用需要最好的網絡

在單個系統中容納整個數據中心網絡的網絡需求是不可能的。任何單一系統都受到單個網絡包處理器的物理和邏輯容量的限制，或者在多芯片系統中，受到網絡機架的大小和計算節點之間的距離的限制。因此，Arista 構建了多層“網絡”來滿足總需求。

Arista 7800R4是一個高性能的多芯片系統，可以擴展到超過1000個400G端口，是許多大規模數據中心網絡的骨干。連接到數萬個400G附加XPU的人工智能網絡，很快就達到了單個7800R4的上限。今天，許多大規模的 AI 設計已經部署了2層甚至3層的系統，在葉脊架構的后端網絡中，有固定和模塊化系統的選擇。在這些設計中，每個平臺都是一個獨立的節點，做出轉發決策，沒有自動或協調的節點間通信以實現無損傳輸。雖然這提供了最大的自主性和廣泛的多供應商互操作性，但它也被迫配置了擁塞管理、性能調整和節點間的負載平衡機制，增加了額外的復雜性。

供應商和客戶正集體作為超以太網聯盟的一部分，提出可以解決與大規模多級網絡中無損傳輸、高效數據包分發、擁塞和流量管理相關的一些挑戰，這些網絡具有密集的 AI 工作負載。

理想情況下，一個單一的系統可以擴展并提供避免構建兩層網絡的需求的能力，但通常可用的模塊化數據中心交換機系統都是圍繞單個機架的容量和其他限制設計的。