当最强GPU遇上大型云平台NVIDIA与AWS的协同效应

Nintendo Switch • 2024年8月30日 15:58 • 投稿

近年 AI 技术大盛，「生式成 AI」的应用已是渗透到各层面，但回望这波 AI 热，除了「机器学习」技术日益完善，「云端」的普及也协助降低用家使用 AI 的门槛，让更多企业以至个人用户，无需额外花费高昂成本追求日新月异的硬件软件，便能够在「云端」训练各种企业专属的 AI 模型，当中，NVIDIA 与 AWS 的合作可说是人工智能云端服务的最佳例子。

回看这波AI热潮，机器学习（Machine Learning）技术当然扮演着重要角色，但要支撑着人工智能背后所需的强大计算机运算能力，各类型硬件如CPU（处理器）、GPU（图像处理器）、RAM（随机存取内存）、SSD（固态硬盘）也不可或缺。但伴随着 AI 崛起，不少高规格的 AI 硬件（如 NVIDIA 推出的 GPU ）也因需求大增而水涨船高，令广泛使用机器学习仍有一定难度。直至近年云端网络平台兴起，各大平台均挟着一站式数据整合、低成本储存、高安全性和多样化的机器学习服务，配合各类高效CPU、GPU硬件，替用户提供极具成本效益的人工智能云服务。

当中，大型云端网络服务平台AWS与AI范畴龙头企业NVIDIA的合作即为个中的最佳例子，已合作超过12年的两间公司，早前亦推出了电子书《Fast-track innovationwith generative AIand machine learning Delight》，讲解如何使用AWS及NVIDIA的云服务整合AI技术，让客户进行智能文书处理、计算机视觉、个性化体验、生成式 AI 等各类工作。

书中提到，AWS 最新的 Amazon EC2 P4d （Amazon Elastic Compute Cloud，在云提供高效能机器学习训练和高性能运算的应用程序）就采用了 NVIDA 最新的 A100 Tensor Core GPU，让训练 AI 模型的时间从数天大幅缩压到数分钟，这意味着开发者能够快速验证、训练和调整模型，加速创新，提高工作效能; 此外，Amazon EC2 P4d 程序亦能通过超级计算机 EC2 UltraClusters 进行更复杂的多节点 AI 模型训练，甚至在有需要时，将 NVIDIA A100 Tensor Core GPUs 的使用量快速扩展至数千个。因此，Amazon EC2 P4d 作为首个在云中支持400 Gbps 的应用程序，其效能较前代的Amazon EC2 P3、Amazon EC2 P3dn提高了平均2.5倍，

书中亦提及另一款产品Amazon EC2 G5，指其就是采用了NVIDIA新一代的GPU，让AWS云端服务提供的机器学习效能，足较前一代提高多达3.3倍，并支持最多192个虚拟CPU、最多100 Gbps的宽带、最多7.6 TB的本地NVMe SSD储存量，意味着用家可以在云端情况下，训练更大、更复杂的自然语言处理（NLP）、计算机视觉和AI 模型，让云服务用家能够以更符合成本效益的费用，持续追求更高效的 AI 运算速度。

在软件或应用程序方面，《Fast-track innovation》电子书亦提到 AWS 与 NVIDIA 如何创造协同效应，例如，AWS Marketplace 上有提供 NVIDIA AI Enterprise，一个能够提供超过 100 种架构、预训练模型（pretrained models）、AI 工作流程的云端原生软件平台，让用户可以简化生成 AI、语音AI、视觉AI、网络安全等应用程式的开发和实施程序，并能让NVIDIA AI Enterprise协助监控常见漏洞和暴露（CVE）、API稳定性等情况，及时作出修补; NVIDIA AI Enterprise 亦能協助開發人員. 利用 AWS SageMaker （AWS 的机械学习中心）加快开发，提供更多、更完善的算法、模块、机器学习解决方案予用家，最终让用家更容易探索和使用 Amazon Bedrock 的开源基础模型（FMs），例如 OpenLLaMA、RedPajama、Mosaic MPT-7B、FLAN-T5/UL2、GPT-J-6B/Neox-20B 和 Bloom/BloomZ 等模型，相得益彰。

总结而言，在人工智能科技愈发先进的情况下，「AI 云端服务」让用户突破自身的硬件、软件限制，更容易使用及训练适合自己的人工智能模组，进行如生成内容、数据处理、计算机视觉等工作，其中 AWS 与 NVIDIA 的合作，更成了云端服务与最新型 GPU 合作的最佳例子，进一步降低了使用 AI 的门槛，让 AI 普及至不同行业、阶层之中。