發佈單位 : 和碩聯合科技股份有限公司
發佈日期 : 2024/06/03
和碩AI智慧製造新境界—破殼而出，領航智慧製造的下一步
和碩聯合科技 （以下簡稱”和碩”）身為全球知名的DMS企業將於2024 COMPUTEX期間在總部揭幕新的伺服器展示室，為媒體和重要合作夥伴們展示AI智慧製造與AI伺服器的創新解決方案。
2024和碩伺服器展示亮點：
1. 和碩與NVIDIA攜手合作，共同建置旗艦級企業AI伺服器：GB200 NVL72
NVIDIA宣布與和碩成為全球合作夥伴，特別是在最新發表的NVIDIA GB200 NVIDIA Blackwell 架構超級晶片方面。和碩目前正在積極開發的GB200 NVL72是一個多達72個GPU節點的液冷機櫃平台，專為處理計算密集型工作負載而設計。透過與NVIDIA的合作，和碩能夠獲得最新的GPU技術支持，並優先使用NVIDIA的GPU產品於其AI伺服器中。這款尖端伺服器採用NVIDIA BlueField®-3 DPU資料處理單元，提供廣泛的功能，包括雲端網路加速和超大規模AI雲端中的GPU運算彈性。這不僅有助於提升和碩產品在市場上的競爭力和認可度，還能夠為客戶提供更強大的運算能力和性能。
機櫃伺服器，最左方為GB200 NVL72
2. 和碩氣冷MGX 4U伺服器搶先亮相
和碩在MGX架構上持續開發多款AI伺服器產品，以滿足客戶在訓練和推論等不同算力需求。這些產品具有強大的運算性能、高效的能源利用率和良好的擴展性。在COMPUTEX期間，和碩推出了氣冷MGX 4U伺服器，名為「Marco」，支援各種CPU和GPU架構，加速人工智慧訓練和推論工作。透過支援NVIDIA的MGX模組化架構，展現了資料中心營運的未來。這款伺服器能夠極為輕鬆有效地處理複雜的任務。Marco配備2P（2插槽）Intel® Xeon® 新一代處理器，且能夠支援高達8張NVIDIA H200-NVL GPU卡以及額外5個PCIe Gen5 x16 插槽支援最高400Gb高速網卡、DPU卡等，提供卓越的圖形效能，提升運算體驗。不論是從事資料中心人工智慧訓練還是高效能運算（HPC），這款伺服器的設計都能超乎預期，此外，Marco的設計不僅相容更多卡，還保留了水冷支援的靈活性。
伺服器「Marco」
3. 走在AI製造新時代的前沿:和碩推出Ronnie OVX™伺服器和AI伺服器Jimbo
和碩NVIDIA OVX™伺服器「Ronnie」，是一款功能強大的多功能伺服器，旨在滿足AI、圖形和Omniverse應用程式的嚴苛需求。Ronnie基於NVIDIA MGX架構，採用2U MGX機箱，並配備2P（2插槽）Intel® Xeon® 新一代處理器，能夠支援4張NVIDIA H200-NVL 或 L40S 顯示卡，這種組合確保了加速運算任務的卓越效能和可靠性。
和碩「Jimbo」AI伺服器是一款搭載NVIDIA GH200 Grace Hopper超級晶片的AI伺服器，能夠無縫配合LLM訓練。基於NVIDIA MGX架構的模組化設計，提供了更大的靈活性，以滿足數據中心多樣化的加速運算需求，並兼具高效能、可靈活配置與可擴充的特點，特別適合大規模平行運算處理和NVIDIA GPU加速的應用。NVIDIA Omniverse™ Enterprise部署在NVIDIA OVX™上，以支援基於物理的AI數位孿生技術，使他們能夠在投入生產之前進行即時設計、模擬和優化產品、設備和流程。
伺服器「Ronnie」
4. 數位孿生技術應用於和碩伺服器生產線，展現虛實協作
和碩以豐富的產品開發經驗和垂直整合的製造能力，致力於提供從設計到系統化生產製造的全面性服務，以完整、有效率地滿足客戶需求。和碩的研發團隊投入並深耕AI軟體系統，並基於NVIDIA Omniverse™平台，已經建立自身的AI和數位孿生(Digital Twin)等智能軟體發展平台。結合和碩開發生產的AI伺服器，以及和碩擁有的5G專網，除了將軟硬體平台與設備整合應用至和碩全球工廠的智慧製造上，亦可為外部客戶提供完整結合5G智慧製造之解決方案，這些都是和碩在AI伺服器發展上的重要進展。此外，和碩在市場上的擴展也將為客戶提供一條龍的服務，對於許多既有客戶面臨數位轉型挑戰，以及尋求AI算力和軟體服務之情況下，和碩可以提供更多的附加價值。
透過先進的人工智慧和數位孿生技術，使像和碩這樣的研發製造廠商，可以遠端展示伺服器生產線，模擬不同的場景，並以有別於過往的方式優化生產流程。這項技術具有許多優勢，包括增強協作、提高生產效率、降低風險並可以模擬不同的場景、識別瓶頸，以提高效率和生產力。
PEGAAi是先進的人工智慧平台，使和碩能夠大規模且無縫整合人工智慧。這個綜合平台允許使用者收集和標示數據，以及訓練、部署和監控人工智慧模型的效能。它採用了 NVIDIA Metropolis 和 NVIDIA NeMo 等軟體來加速 AI 實施。NVIDIA TAO 工具包提供了廣泛的預先訓練模型，而 NVIDIA TensorRT 和 NVIDIA Triton 推理伺服器則顯著提高了推理效率。NeMo 提供了一套用於資料管理和大型語言模型 (LLM) 微調的服務。NVIDIA NIM 推理微服務提供了一種在 NVIDIA 加速基礎架構上將 AI 模型部署到生產環境的簡單方法。 此外，PEGAVERSE 是一個基於 NVIDIA Omniverse 構建的複雜數位孿生平台，使用戶能夠透過虛擬環境來規劃、設計和最佳化流程，並與其他人遠端協作。 NVIDIA Omniverse Nucleus 透過同步數位資產來支援 PEGAVERSE，透過整合 NVIDIA DeepStream、AI 多攝影機追蹤及和碩 5G 攝影機解決方案，PEGAVERSE 可以將工廠運作資訊數位化，這種整合對於計算人流量、停留時間、優化路徑和增強員工安全有顯著的幫助。先進的人工智慧分析與 5G 連接速度的結合確保即時數據處理既快速又可靠，使企業能夠做出提高營運效率和工作場所安全的決策。PEGAAi 與 PEGAVERSE 共同推動和碩在工業數位化之路上不斷前進。
透過PEGAAi與PEGAVERSE提供AI智慧工廠解決方案
5. 共創綠色未來，和碩展現ESG永續力
和碩致力於透過提供創新解決方案來促進ESG永續發展，幫助企業提高績效並降低功耗。和碩認知到散熱在人工智慧伺服器設計中的重要性，推出了L11液冷架構「Holley」，其能夠在提升效能的同時節能40%。此外，和碩還建立了L11系統監控軟體與RPU流量控制的散熱機制，目標可以支援65KW的散熱功率。這些散熱技術不需要額外的資料中心改造，且可直接適用於現有的硬體平台，包括NVIDIA、Intel、AMD和Ampere。
和碩除了傳統的單相液冷技術外，還採用雙相液冷技術，避免漏液疑慮並提升散熱效率（70KW）。此外，和碩還有浸沒式冷卻（immersion cooling）技術，將伺服器直接浸泡在不導電的液體中，提升資料中心的能源效率，減少維修需求。這些散熱技術和節能措施不僅提高伺服器效能，也符合ESG永續發展的理念，降低能源消耗和碳排放，為環境保護做出貢獻。和碩的伺服器核心設計理念包括模組化，縮短產品開發週期，共享模組件，減少資源浪費，實踐低能耗、高效率和可回收再利用的企業永續經營目標。和碩也追求環保永續、社會責任和公司治理等目標，確保在全球市場上的競爭力和持續發展。
【媒體聯絡人】
陳瑩
886-2-8143-9001 *32312
PegatronIR@pegatroncorp.com
林廷瑋
886-2-8143-9001 *33524
Pegatron_SVR@pegatroncorp.com
劉宜祥
886-2-8143-9001 *34345
Pegatron_SVR@pegatroncorp.com
Pegatron SVR Website: https://svr.pegatroncorp.com/