NVIDIA DGX A100通用的AI基础架构系统（英伟达A100服务器）

本公司8月13日9点34分报道：NVIDIA DGX A100通用的AI基础架构系统（英伟达A100服务器）#技术报道

(https://www.app17.com/c96719/products/d14509078.html)

产品描述

扩展企业AI的挑战

每家企业都需要利用人工智能[AI实现转型，以在这个充满挑战的时代求得生存，继而实现蓬勃发展。但长期以来，传统方法所采用的计算架构较为缓慢，而且总是分开处理分析、训练和推理工作负载，所以企业需要一种适用于A1基础架构的平台对此加以改进。传统方法不仅复杂、成本高、扩展速度受限，而且对现代Al束手无策。因此，企业、开发者、数据科学家和研究人员都需要一个新平台，以便统一处理所有A1工作负载、简化基础架构以及提高投资回报率(ROI)。

适用于各种AI工作负载的通用系统

作为一种通用系统，NVIDIADGX"A100可处理各种AI工作负载，包括分析、训练和推理。DGX A100设立了计算密度标准，不仅在6U外形尺寸下封装了5peta FLOPS的A1性能，而且用单个统一系统取代了传统的计算基础架构。此外，凭借NVIDIA A100 Tensor Core GPU中的多实例GPU(MIG]功能，DGXA100实现了强大算力的精细分配，使得管理员可针对特定工作负载分配大小合适的资源。DGXA100提供了多达640GB的GPU显存总量，可将大型训练作业的性能提升高达三倍，并将MIG实例的大小翻倍，因而能够处理极为复杂的大型作业，同时轻松应对简单、小型的任务。DGXA100利用NGC中经过优化的软件运行DGX软件堆栈，同时将密集计算能力和的工作负载灵活性相结合，因此成为单节点部署以及通过NVIDIADeepOps部署大规模Slurm和Kubernetes集群的理想之选。

直接获得NVIDIA DGX pert团队支持

NVIDIA DGX A100不仅仅是一台服务器，更是一个完整的软硬件平台。它基于巨大的DGX试验基地一-NVIDIA DGX SATURNV所积累的知识经验搭建而成，背后更有数千名NVIDIA DGX pert的支持。作为精通A1的从业者，DGX pert会提供规范指导和设计专业知识，帮助推动A1转型。他们在过去十年中积累了丰富的专业知识和经验，可帮助您从DGX投资中尽可能获得更大价值。DGX pert有助于确保关键应用快速启动并保持平稳运行，从而大幅缩短获得见解的时间。

更快解决问题

NVIDIA DGX A100配备八个NVIDIA A100 Tensor CoreGPU，可实现的加速性能，且已针对NVIDIACUDA-X"软件和端到端NVIDIA数据中心解决方案堆栈进行优化。NVIDIA A100 GPU引入了精度Tensor Float 32 (TF32)，该精度与FP32的原理类似，但与前一代相比，可面向AI提供高达20倍的每秒浮点运算次数(FLOPS)。*重要的是，实现此类加速无需更改任何代码。此外，在使用含FP16的NVIDIA自动混合精度时，A100仅增加一行代码，即可将性能再提升两倍。A100 80GB GPU将高带宽显存从40GB (HBM)增加一倍至80GB (HBM2e]，其GPU显存带宽超过2TB/s,比A100 40GB GPU增加了30%,亦达到全球水平。DGX A100还推出了速度比上一代产品高出一倍的NVIDIA NVSwitch”"以及第三代NVIDIA"NVLink"技术，后者可将GPU间的直连带宽增加一倍至600GB/s，几乎相当于PCle 4.0的十倍。这一强大功能可大幅缩短问题解决时间，让用户能够应对此前无法解决的难题。

安全性更高的企业AI系统

NVIDIA DGX A100采用多层级架构保护所有主要的软硬件组件，确保AI企业处于稳定的安全状态。DGXA100内置安全机制，覆盖基板管理控制器(BMC)、CPU载板、GPU载板、自加密驱动和安全启动，可帮助I人员专注于AI操作，而不必花时间评估和应对安全威胁。

通过NVIDIA Mellanox实现的数据中心可扩展性

NVIDIA DGX A100配备所有DGX系统中速度的1/0架构，是NVIDIA DGX SuperP0D"等大型A|集群的基础构件，而后者为可扩展的AI基础架构描绘了企业蓝图。DGX A100具有八个用于实现集群的单端口NVIDIA Mellanox" ConnectX*-6 VPI HDR InfiniBand适配器，以及多达两个用于存储和网络连接的双端口ConnectX-6 VPI以太网适配器，二者的速度均可达到200Gb/s。借助大规模GPU加速计算与精尖网络硬件和软件优化的强强联合，DGX A100可扩展至数百乃至数千个节点，从而攻克对话式A1和大规模图像分类等更艰巨的挑战。

携手值得信赖的数据中心领军者，共同打造成熟的基础

架构解决方案通过与的存储和网络技术提供商合作，我们提供了一套基础架构解决方案组合，其中融合了NVIDIA DGX POD"参考架构的诸多优点。这些解决方案在我们的NVIDIA合作伙伴网络[NPN)中作为完全集成且可随时部署的产品提供，旨在简化并加快数据中心Al部署。