〈AWS云端年会〉扩大与辉达合作 为首家提供GH200云端供应商
-
AWS扩大与辉达合作 为首家提供GH200云端供应商。(鉅亨网记者魏志豪摄)(photo:CnYes)亚马逊 (AMZN-US) 旗下 Amazon Web Services(AWS) 本周举办 re:Invent 年度大会，执行长 Adam Selipsky 今 (28) 日宣布扩大与辉达 (NVDA-US) 策略合作，AWS 将成为第一家提供 GH200 的云端供应商，支援客户生成式 AI 应用。
辉达执行长黄仁勋今日现身站台支持，除了宣布将 GH200 导入 AWS 外，也宣布 DGX Cloud 服务将在 AWS 平台上运行，将加速生成式 AI 开发，并训练超过 1 兆个参数的大型语言模型 (LLM)。
Adam Selipsky 表示，AWS 是首家将 GPU 导入云端的供应商，与辉达合作超过 13 年，今年为满足高效能运算 (HPC)、机器学习 (ML) 与生成式 AI 等应用，将提供更广泛的辉达 GPU 解决方案，进一步将超级晶片 GH200 导入云端。
Adam Selipsky 说，此次将 32 颗 GH200 透过 NVLink 与 NVSwitch 技术相互连接，并在自家 Amazon EC2 运行，再结合 Nitro 虚拟化功能与超大规模丛集 (UltraClusters)，让 AWS 成为 GPU 运算的最佳环境，预计最多可以扩展到数千个 GH200。
此外，AWS 也与辉达合作，推出首个 GH200 组合而成的 DGX Cloud 超级电脑，为开发者提供单一执行个体中最多的共用记忆体，并提供客户训练参数超过 1 兆个的大型语言模型。
同时，辉达也宣佈在 AWS 平台上推出 AI 软体 NeMo Retriever，便于客户开发生成式 AI，如创造高精准度的聊天机器人，以及运用加速语意检索技术的归纳工具，目前已获制药公司採用。
左至右为 AWS 执行长 Adam Selipsky、辉达执行长黄仁勋。（业者提供）(photo:CnYes)
