兼具高效能、絕佳散熱機制 滿足多元應用場景
台北2024年3月13日 — 專為生成式AI量身設計的多款新一代 Dell PowerEdge 伺服器，不光採用新一代Intel® Xeon® 可擴充處理器、 Max GPU 系列晶片，也融合通過驗證的先進氣流設計，擁有絕佳運算能力與冷卻效果，是推動生成式AI專案最佳平台，至今已在市場累積眾多成功案例。
生成式 AI（Generative AI）浪潮席捲全球，被眾多專家喻為是近10年驅動創新發展的重要技術。根據戴爾科技集團公布「Generative AI Pulse Survey」報告指出，有高達76% IT主管指出生成式AI在生產力提升、優化流程、節約成本等部分有極大幫助，對公司長遠發展扮演極重要的角色。
鑑於現今企業正加速推動生成式AI專案，戴爾科技集團推出多款支援 AI 技術的新一代Dell PowerEdge 伺服器，分別是通用型的R系列，如 PowerEdge R760、PowerEdge R660、PowerEdge R760xa、PowerEdge R960、PowerEdge R860等，以及具備高效能運算能力的PowerEdge XE9680、PowerEdge XE9640、PowerEdge XE8640等。至於XR 系列產品，則主打可將 AI 帶到邊緣之中，企業可依據自身需求與預算選擇合適的機種。
戴爾科技集團資深技術顧問黃敏俊指出，在生成式AI浪潮席捲全球之際，戴爾科技集團在運用AI拓展自身業務外，也將 AI 內建於產品或解決方案中 ，如本次推出多款支援AI技術的新一代 Dell PowerEdge 伺服器，讓企業能執行各種 AI專案，維持在產業中的領導地位。目前新一代 Dell PowerEdge 伺服器，已經被廣泛應用於眾多產業之中，如以數位廣告聞名的日本 CyberAgent、以色列政府重金打造的 Israel-1 超級電腦等。
效能與冷卻系統創新 吸引企業用戶目光
生成式 AI 在眾多領域展現無所不能的關鍵，在於運用大語言模型搭配千億以上資料進行訓練，這也代表企業必須具備運算能力強悍的 AI 伺服器。考量不同應用情境需求迥異，加上模型訓練、模型推論、模型微調等階段的算力需求不同，戴爾科技集團在產品設計過程中也融入許多巧思。首先，新一代 Dell PowerEdge 伺服器採用 Intel®推出的第 4 代 Intel® Xeon® 可擴充處理器，該處理器內建可用於多種工作負載的各式加速器引擎，其中 R760xa/R760/R660/XE9680/XE9640/XE8640 最多可安裝兩顆CPU處理器，R860和R960等產品最多可安裝四顆CPU處理器，能滿足一般的 AI-ML/DL 訓練與推論需求。
在 GPU 晶片部分，新一代 Dell PowerEdge 伺服可安裝 Intel® Data Center Max GPU 系列晶片，有 1100 GPU、1550 GPU等 類型，以及 Flex 140 可選擇，其中最高等級的1550 GPU最高擁有 128 個Xe 核心與 128GB HBM 記憶體，整體效能非常驚人。除此之外，企業可依照專案需求，選擇輝達的 A100、H100 系列晶片，以及超微的 MI300x 等晶片，確保AI專案執行效益與整體費用支出。
黄敏俊說，近幾年受惠於半導體邁向先進製程，CPU、GPU 等算力也隨之提升，但整體耗電量也比過去提升不少，因此我們在整機設計上下了許多苦心。新一代Dell PowerEdge 伺服器有獨步市場的三大特色，第一點是上一代伺服器相比，整體能耗強度降低 83%。以新一代Dell PowerEdge R760為例，只需 8 台即可創造出與 50 台 13代 Dell PowerEdge R730 相同的算力。第二點特色為採用通過驗證的先進氣流設計，搭配智慧控制和最新一代風扇、散熱器，可創造出絕佳的冷卻效果。在企業環境許可下，部分機種可選擇更先進的直接液體冷卻 ( DLC )或浸沒式冷卻解決方案等散熱解決方案。整體來說可節省84%機櫃空間，省下60%處理器的電力費用支出。
第三點特色，戴爾科技集團提供獨家開發的 Live Optics Server KPI Comparison Tool ，讓企業預估未來升級到新一代 Dell PowerEdge 伺服器後，公司在機櫃、能源、維運費用的節約狀況，有助企業落實 ESG 策略。
融合眾多創新設計 AI專案最佳平台
在支援廣泛的 CPU、GPU 類型，採用新一代冷卻散熱系統之外，新一代 Dell PowerEdge伺服器在全球市場備受企業歡迎關鍵，還有眾多創新設計，如採用新一代 PERC12 控制器，整體效能比 PERC11 高 2 倍、PERC10 高 4倍。另外，產品支援新世代的 EDSFF E3.S NVMe Gen5 ，在優異封裝技術加持下，能為伺服器提供更高儲存密度、更優異散熱能力，同時整體效能比 NVMe Gen 4 提高一倍 。
黄敏俊表示，在前述軟硬體等多種創新設計之外，我們也提供 iDRAC9 管理工具，助IT人員能精準掌握伺服器運作狀況，同時享有降低工作負擔、維運費用等優點。根據統計，5年整體維運費用可節省達到8萬美元，這是非常可觀的數字。
在企業推動數位轉型過程中，生成式AI已成為不可或缺的重要動能。專為生成式AI量身設計的新一代Dell PowerEdge 伺服器，在採用新一代Intel®處理器、 Intel® Data Center GPU Max 系列之外，也同時考量到整體散熱與維運成本等，堪稱是企業啟動AI專案的最佳平台。
