科技

輝達大秀AI晶片肌肉 黃仁勳誇口:GH200世界最快!

商傳媒|記者許方達/綜合報導

輝達(NVIDIA)再秀「晶片」肌肉,創辦人黃仁勳在美國洛杉磯舉辦的「計算機圖形與交互技術頂級會議暨展覽(SIGGRAPH)」發表最新產品,其中以「全新AI超級電腦晶片GH200」及搭載「L40S GPU」的OVX伺服器最受矚目。

黃仁勳誇口「GH200是世界上最快的」,其平台配備全球首款HBM3e處理器,是專為加速計算和生成式AI時代所打造,這個程序需要更多記憶體容量,可讓更大型的AI模型置入單一系統,執行時將不再需要多個系統或多顆GPU來配合。GH200預定在2024年第二季上市,預計可讓大型語言模型的推論成本顯著下降,但輝達尚未說明定價。

圖片來源:NVIDIA

輝達說明,「L40S GPU」是款功能強大的通用資料中心處理器,用於搭配Omniverse平台,加快處理AI訓練及推論、3D設計和視覺化,還有影片處理和工業數位化等「運算最密集」的複雜應用項目。「L40S GPU」預計今年秋季上市,供應商包括:華碩(首度入列)、戴爾、技嘉、慧與(HPE)、聯想(Lenovo)、雲達科技(QCT)及美超微(Supermicro) 等全球系統商。

輝達看好「L40S GPU」將幫助全球專業人士推進AI發展,並為各行各業的用戶帶來智慧聊天機器人、搜尋和摘要工具等生成式AI的應用項目。業者指出,L40S為L40系列的迭代特規版,專門提供小參數模型推理及訓練微調,與A/H系列存在較大差異,除了替代上一代的L40,及取代T系列推理卡,補足小模型訓練產品線,預估性能將再遜於A800。推測在製程上將不需要複雜的CoWoS先進封裝,可直接跨過台積電的產能瓶頸。

相關文章