2024年11月19日至21日，超級計算大會（SuperComputing Conference 2024, SC24）在美國佐治亞州亞特蘭大盛大帷幕，匯聚了高性能計算（HPC）、人工智能（AI）和數據科學領域的頂尖專家，推動數據驅動創新的前沿。每年，SC 超級計算大會都會展示突破性的研究成果、前沿技術以及定義計算能力的未來趨勢，今年也不例外。從 E 級計算和 AI 工作負載的最新進展，到量子技術的創新突破，超級計算大會早已成為重塑行業與社會的大規模計算創新理念的試金石。
在這場展示超級計算最新進展的盛會上，WEKA 與合作伙伴一同，帶來了專為應對 HPC 和 AI 不斷變化的挑戰的全新解決方案。隨著 AI 模型的日益復雜、數據量的劇增以及實時處理需求的增加，企業亟需超越傳統存儲和數據管理能力的可擴展、高彈性、高性能解決方案。我們最新的創新正是為滿足這些需求而設計，提供前所未有的速度、靈活性和可靠性，支持從數據中心、云端以及邊緣部署的各種數據密集型工作負載。這些解決方案不僅幫助企業動態擴展并最大化資源利用率，還能以變革性的速度下解鎖數據洞察，從而實現前沿研究與實際 AI 應用之間的無縫銜接。
在今年的大會上，WEKA 攜手 NVIDIA、Supermicro、Arm 和 Run:ai 等合作伙伴，展示如何支持企業大規模擴展、應對負載波動，提供多組件高效編排、提升安全性和系統穩定性，并在降低能耗、實現更高冷卻效率的同時提升 AI 計算能力。
首款為NVIDIA Grace CPU超級芯片打造的存儲解決方案
隨著 AI 和 HPC 工作負載的不斷演進，對超高速數據訪問和高效處理能力的需求日益增加。WEKA 與英偉達 NVIDIA、超微 Supermicro和 Arm 聯手應對這一挑戰，共同推出結合 WEKA 超高速數據平臺與 NVIDIA Grace CPU 超級芯片的解決方案，樹立了數據密集型環境下性能、可擴展性和能效的新標桿。這一強強聯合不僅能加速 AI 模型訓練，減少延遲，還能顯著優化資源利用效率，同時保持低能耗水平。
在 SC24 大會上，WEKA 宣布推出業內首款專為 NVIDIA Grace? CPU 超級芯片設計的高性能存儲解決方案。該方案基于全新的 Supermicro 存儲服務器，配備 WEKA? Data Platform 軟件，并搭載 Arm? Neoverse? V2 核心，借助 NVIDIA Grace CPU 超級芯片提供前所未有的性能密度和能效優勢，助力企業加速 AI 工作負載。通過減少 I/O 瓶頸并提升數據訪問效率，這一聯合解決方案讓數據中心在保持極低能耗的同時，實現前所未有的性能突破。WEKA Data Platform 預計將于2025年初在 Grace 服務器上提供服務，標志著面向未來的基礎設施的誕生，并能隨著企業需求增長而擴展。
NVIDIA Grace CPU 擁有144個高性能 Arm Neoverse V2 核心，能效是傳統 x86 服務器的兩倍。這一配置與 WEKA 的 AI 原生數據架構相結合，確保了整個 AI 數據管道的最佳性能，最大限度提升了 GPU 利用率，并在大幅降低能耗的同時加速數據洞察。這一組合使企業能夠更高效地處理復雜的 AI 工作負載，提升速度和效率。
Grace CPU 采用高帶寬 LPDDR5X 內存，提供 1 TB/s 的內存帶寬，與WEKA 的架構無縫結合，有效消除數據瓶頸，確保了數據流的高效傳輸。這使得 AI 訓練更快，訓練周期更短，推理速度更快，企業能夠在不犧牲性能的情況下擴展 AI 工作負載。這樣的資源優化能夠順暢高效地滿足數據密集型環境的需求。
除了性能提升之外，這一存儲解決方案還在能源和空間效率方面設立了新標準。專為大規模 AI 和現代 HPC 工作負載而生，WEKA Data Platform 能夠幫助企業降低數據中心的占地面積和能源消耗。能效優異的 Grace CPU 與 WEKA 的基礎設施整合能力相結合，讓企業能夠以更少的資源實現更多成果，在推動 AI 性能的同時支持可持續發展目標。
WEKA Data Platform 通過提高 GPU 堆棧效率10至50倍，優化了大規模 AI 和 HPC 工作負載。通過減少數據冗余和實現靈活的云端擴展，它將數據基礎設施需求減少了4到7倍，并大幅降低碳排放，每存儲1PB數據每年可減少高達260噸的二氧化碳排放，同時降低多達10倍的能源成本。加上 Grace CPU 超級芯片兩倍的能效，這一解決方案幫助客戶能夠用更少的資源完成更多任務，在提升AI性能的同時推動可持續發展目標。
這一業界首創的聯合架構為企業降低成本、加速性能并推動 AI、HPC 和數據分析的市場化進程提供了可靠支持。對于運行復雜 AI 模型、大規模仿真或實時數據處理的企業而言，這一強大組合提供了數據驅動世界中至關重要的速度、效率和節能優勢。
WARRP：面向可擴展、可持續生產環境的云無關 AI RAG 參考平臺
隨著企業越來越多地采用 AI 驅動的應用，部署能夠無縫處理大規模數據密集型工作負載的檢索增強生成（Retrieval-Augmented Generation，RAG）推理環境變得至關重要。然而，從概念驗證到生產環境的轉變帶來了許多復雜的挑戰。這些生產級 AI 環境需要可靠的可擴展性、高效的資源調度，以及跨多個基礎設施（從本地數據中心到多個云服務供應商）的無縫連接。此外，在確保高性能的同時，還需要管理成本、滿足嚴格的安全要求，并減少碳排放，也是企業在將 RAG 解決方案投入生產時必須面對的難題。
我們非常高興向大家介紹 WEKA AI RAG* 參考平臺 WARRP（WEKA AI RAG Reference Platform），這是一個云無關*的解決方案，專為應對生產級 AI 挑戰而設計，提供一致的性能、簡化的管理和可擴展的部署能力，適用于數據中心和云環境。WARRP 利用 WEKA 先進的數據平臺，解決了傳統共享文件系統難以實現的一些功能。通過支持高性能向量數據庫、簡化跨地點的數據傳輸以及靈活的擴展能力，WARRP 讓企業能夠高效部署高效可持續的 AI 推理環境，并能夠隨著新框架和工具的出現不斷演進。
“Cloud agnostic”（云無關/云不可知）是指一種技術、解決方案或架構，能夠在多個云平臺之間無縫運行，而不依賴于任何特定云提供商的技術、工具或服務。簡而言之，云無關性意味著某個應用程序、服務或基礎設施可以在不同的云環境中部署、運行和管理，而無需做出重大修改或適應。
*Retrieval-Augmented Generation (RAG)（檢索增強生成）是一種結合了檢索技術與生成模型的自然語言處理（NLP）方法，旨在增強生成模型的表現力和準確性，尤其在面對需要大量外部知識的任務時。簡單來說，RAG模型通過在生成答案之前首先進行信息檢索，從外部知識庫中獲取相關信息，然后將這些信息與生成模型結合，以生成更為準確和上下文相關的答案。
我們創建了 WARRP（WEKA AI RAG 參考平臺），作為一個云無關的 RAG 推理平臺，無論部署在數據中心還是云中，都能提供一致的框架、可管理性和結果。WARRP 充分利用了 WEKA 獨特的功能，解決了共享文件系統中常見的挑戰。例如，它支持高性能向量數據庫、通過我們的高速 POSIX 系統進行批量數據攝取，同時通過 S3 索引，并可以在數據流動過程中在不同位置之間無縫傳輸數據（比如在一個位置導入數據，再在另一個位置進行處理）。
WARRP 定義了一個強大的生產級 RAG 推理解決方案所需的基礎層。首先是基礎設施層，跨越多個數據中心或云服務供應商。接下來是 WEKA 數據層，它在本地環境和云環境中提供相同的性能和功能。然后是編排層，包括 Kubernetes 容器編排器和像 Run:ai 這樣的 GPU 編排解決方案。為了簡化部署和管理，我們選擇了英偉達的框架，如 NIMs 和 Nemo，這些框架構成了英偉達的企業級技術堆棧。上層是開發層，利用 Jupyter 等工具進行編程。其次，Langsmith 和 Milvus（分布式向量數據庫）等中間件工具支持部署，最后模型分層在它們之上，由英偉達 NIMs 打包或根據企業需求進行容器化。最后，應用程序將提供用戶界面并提取有價值的信息。
WARRP 的核心優勢在于它能夠根據推理需求動態擴展，并根據需要在微調和推理之間切換。它還能在 WEKA 上運行分布式向量數據庫，為整個 RAG 管道提供卓越的性能和可擴展性，并能靈活地備份數據并將其發送到遠程環境，以實現冗余或突發處理。
通過 WARRP，我們為生產級 RAG 推理管道建立了基礎層并驗證了特定框架。展望未來，我們將不斷為每一層添加新的框架，如 EKS、AKS 或 GKE 等托管 Kubernetes 服務，并整合其他社區發布的具有價值的框架。這種迭代方法使 WARRP 與 AI 生態系統的最新進展保持一致。
SC24 強調了高性能計算和人工智能領域的創新前沿，WEKA 很榮幸能夠為現代數據密集型環境實際挑戰提供的解決方案。我們與英偉達（NVIDIA）、超微（Supermicro）和 Arm 等合作伙伴的合作帶來了重新定義了企業 AI 和 HPC 工作負載可能性的前沿技術。從針對英偉達 Grace CPU 超級芯片的革命性存儲解決方案到多功能 WARRP 架構，WEKA 致力于提供可擴展、高效和節能的 AI 平臺，幫助企業將 AI 從概念驗證推向大規模生產。這些解決方案既能滿足當前工作負載的需求，又能適應未來不斷發展的需要。通過降低能耗、優化數據處理和云無關的靈活性，WEKA 為企業提供了強大的工具，加快了洞察時間，最大限度地提高了資源利用率，并有助于實現可持續發展目標。在前進的道路上，我們致力于通過可無縫集成新興技術的自適應架構為行業提供支持，確保企業在數據驅動的世界中保持領先地位。
關于WEKA
WEKA 正在為 AI 時代的企業數據堆棧設計全新的解決方案。WEKA? Data Platform 采用云和 AI 原生架構，可以在任何地方部署，實現本地、云端和邊緣環境的數據無縫遷移。它將傳統的數據孤島轉變為動態數據管道，加速 GPU、AI 模型訓練和推理，以及其他性能密集型工作負載，使其更高效地工作、同時降低能源消耗和碳排放。WEKA 幫助全球最具創新性的企業和研究機構克服復雜的數據挑戰，實現更快、更可持續的發現、洞察和業務成果——包括《財富》50強中的12家公司。
