AI 對數據中心網絡的影響是巨大且多方面的,我們有充分的理由期待 AI 繼續在幾乎所有可以想象到的應用中成為主流。一個例子是目前提出的 AI 冰箱,它可以推薦用戶應該吃什么。
AI 融入消費者日常生活意味著數據中心資源的使用比以往任何時候都更加頻繁。再加上邊緣計算和 5G 的同步激增,數據中心正在經歷顯而易見的快速增長和變化。
以下是現代數據中心為應對 AI 提出的極端要求而采取的一些應對方式。
數據中心正在使用更強大的網絡芯片
AI 應用所需的帶寬非常巨大。不僅帶寬容量要求高,而且延遲必須非常低,以便給用戶感帶來即時交互體驗。
目前,對這一需求的最佳響應是使用最新技術的網絡芯片。例如 Synopsys 制造的 1.6T 以太網 IP 核芯片,這款芯片的設計考慮到了超大規模 AI 的使用,對于需要更多帶寬的數據中心來說,它是一個絕佳的選擇。
以太網比 InfiniBand 更受歡迎
截至目前,InfiniBand 提供 200 Gbps 或更高的速度,這一直是一個具有吸引力且具有競爭力的層級。然而,對于人工智能密集型數據中心來說,Synopsys 正在取代 InfiniBand 成為最具競爭力的選擇。這至少部分是因為前面提到的 1.6T 以太網芯片,這是業界首款該層級的產品。
當預算不是問題時,超大規模數據中心幾乎總是會選擇最快的芯片,而由于對人工智能支持的需求巨大,目前別無選擇,只能使用以太網。
Synopsys 的 1.6T 芯片是新上市的,尚未經過時間的考驗,但該公司聲稱,與目前的 800G 選項相比,它可以降低 40%的延遲。
面向未來至關重要
隨著對 AI 的需求快速增長,數據中心的需求格局也在不斷增長。通常情況下,基礎設施在升級幾分鐘后就會過時。
以太網 IP 的可擴展性和適應性是 Synopsys 成為 AI 密集型數據中心首選的另一個原因。Synopsys 專注于為數據中心開發可定制、可擴展的解決方案,包括銅纜、芯片到芯片和芯片到模塊的連接。這使數據中心能夠以適合他們的配置設置具有所需功率和性能的系統。
后端網絡的開發也是重中之重
與足以連接當今典型服務器配置的前端網絡不同,支持新的、更強大的收發器需要對許多數據中心后端網絡進行重大升級。
如果網絡需要處理每秒數兆兆位的大容量數據傳輸,這一點至關重要,在某些設施中,這種情況似乎很快就會出現(如果不是已經出現的話)。換個角度來說,數據中心將很快需要能夠處理兩倍于當前 800G 速度的網絡,而不會大幅增加其功耗。
為了實現這一目標,數據中心正在升級交換機并構建其他關鍵的后端基礎設施。
超大規模數據中心已開始為 AI 使用單獨的光纖網絡
對于典型應用(例如用戶使用流媒體 Netflix 或工作中使用云服務),大多數數據中心使用的光纖連接前端網絡就足夠了。隨著 AI 的普及,許多數據中心增加了額外的電纜和設備集群來滿足需求,并將它們插入第一個網絡。
現在 AI 已成為主流,增加的基礎設施對數據中心的光纖資源提出了巨大的需求。增加光纖連接和支持越來越強大的服務器設置的一種解決方案是使用第二個光纖網絡(與第一個光纖網絡分開),且僅用于 AI 應用。這使數據中心能夠擴展其 AI 支持,又不會影響用戶的日常活動。
主機托管業務正在蓬勃發展
因為供應商必須不斷擴大運營以滿足消費者使用 AI 所產生的需求,主機托管設施中的數據中心租賃量正在急劇增加。一項調查顯示,在 2023 年 5 月中旬至 7 月底期間,AI 帶來了價值 2.1GW 的新數據中心租賃。預計主機托管領域的數據中心租賃量將在可預見的未來帶來增長和收入增長。
越來越多的主機托管設施正在通過升級其基礎設施并向 AI 客戶敞開大門來應對挑戰。然而,租賃量的增加并非沒有挑戰。
在某些情況下,數據中心和主機托管空間已經面臨空間壓力。主機托管設施的最高層通常是對資源有很高要求的超大規模客戶。
盡管升級基礎設施和設備既費時又費錢,但頂級主機托管設施仍然會這樣做,因為他們知道有許多感興趣的客戶正在等待租賃空間。
對需求激增做出最快反應的設施將名列前茅。并非所有數據中心都為 AI 而設,許多能夠容納 AI 的數據中心也只能在有限的容量下運行。這種情況不會很快改變。即使在能夠快速轉移的 AI 客戶端和數據中心設施已經匹配之后,仍然有很大的需求。現在是升級和預約升級設施的時候了。
需要重新思考數據中心的設計原則
當云開始流行時,數據中心必須應對資源需求的激增,比如重新設計配置以最大限度地利用空間,購買更高效的冷卻解決方案,升級電源。
由于人工智能,數據中心需要重新思考設計和運營。
挑戰是相似的:
將超強設備安裝到更小的空間
高效冷卻這些強大的系統
為整個運營提供電力
為未來的升級留出空間
這些變化的規模是大多數數據中心從未遇到過的。
一個關鍵的考慮因素是冷卻。一些數據中心已經用高密度風冷系統或直接到芯片 (D2C) 液體冷卻系統取代了他們的冷卻技術,以適應新的、更強大的設備產生的大量熱量。
如果數據中心與了解其確切需求的 AI 企業合作,他們可以將這些參數用作升級的指導方針。
創意解決方案比比皆是
爆炸性需求有望引發令人印象深刻的創新。無論數據中心是設計全新的設施并考慮生成式 AI,還是改造現有設施,他們的策略都需要大量的創造力和開放的心態才能取得成功。
隨著數據中心擴建或建造新設施以容納 AI 所需的更重 IT 設備,數據中心工作人員降需要一種安全的方式來運輸和安裝設備。ServerLIFT 升降設備將為您的數據中心升級擴建保駕護航。
聯系瑞技
ServerLIFT 升降設備專為數據中心 IT 設備搬運和上下架而設計,是企業保障設備和人員安全的利器。歡迎聯系瑞技了解產品詳情及報價信息:
400-8866-490?? |? sales.cn@bytebt.com
