NVIDIA A100 Tensor Core GPU 可针对 AI、数据分析和 HPC 应用场景，在不同规模下实现出色的加速，有效助力更高性能的弹性数据中心。
A100 采用 NVIDIA Ampere 架构，是 NVIDIA 数据中心平台的引擎。
A100 的性能比上一代产品提升高达 20 倍，并可划分为七个 GPU 实例，以根据变化的需求进行动态调整。
A100 提供 40GB 和 80GB 显存两种版本，A100 采用80GB HBM2 位宽达到惊人的5120bit使其显存带宽达到了1935 GB/s，超快速的显存带宽，可处理超大型模型和数据集。
A100当今的 AI 模型面临着对话式 AI 等更高层次的挑战，这促使其复杂度呈爆炸式增长。
训练这些模型需要大规模的计算能力和可扩展性。
NVIDIA A100 Tensor Core 借助 Tensor 浮点运算 (TF32) 精度，可提供比 NVIDIA Volta 高 20 倍之多的性能，并且无需更改代码；若使用自动混合精度和 FP16，性能可进一步提升 2 倍。
与 NVIDIA® NVlink®、NVIDIA NVSwitch™、PCIe 4.0、NVIDIA® InfiniBand® 和 NVIDIA Magnum IO™ SDK 结合使用时，它能扩展到数千个 A100 GPU。
2048 个 A100 GPU 可在一分钟内成规模地处理 BERT 之类的训练工作负载，这是非常快速的解决问题速度。
对于具有庞大数据表的超大型模型（例如深度学习推荐模型 [DLRM]），A100 80GB 可为每个节点提供高达 1.3TB 的统一显存，而且吞吐量比 A100 40GB 多高达 3 倍。
NVIDIA 的领先地位在 MLPerf 这个行业级 AI 训练基准测试中得到印证，创下多项性能纪录。
A100 引入了突破性的功能来优化推理工作负载。
它能在从 FP32 到 INT4 的整个精度范围内进行加速。
多实例 GPU (MIG) 技术允许多个网络同时基于单个 A100 运行，从而优化计算资源的利用率。
在 A100 其他推理性能增益的基础之上，仅结构稀疏支持一项就能带来高达两倍的性能提升。
在 BERT 等先进的对话式 AI 模型上，A100 可将推理吞吐量提升到高达 CPU 的 249 倍。
在受到批量大小限制的极复杂模型（例如用于自动语音识别用途的 RNN-T）上，显存容量有所增加的 A100 80GB 能使每个 MIG 的大小增加一倍，并提供比 A100 40GB 高 1.25 倍的吞吐量。
NVIDIA 产品的出色性能在 MLPerf 推理测试中得到验证。
A100 再将性能提升了 20 倍，进一步扩大了这种性能优势。
与 CPU 相比，AI 推理性能提升高达 249 倍与 A100 40GB 相比.能提升1.25倍NVIDIA A100 采用双精度 Tensor Core，实现了自 GPU 推出以来高性能计算性能的巨大飞跃。
结合 80GB 的超快 GPU 显存，研究人员可以在 A100 上将 10 小时双精度仿真缩短到 4 小时以内。
HPC 应用还可以利用 TF32 将单精度、密集矩阵乘法运算的吞吐量提高高达 10 倍。
对于具有超大数据集的高性能计算应用，显存容量增加的 A100 80GB 可在运行材料仿真 Quantum Espresso 时将吞吐量提升高达 2 倍。
极大的显存容量和超快速的显存带宽使 A100 80GB 非常适合用作新一代工作负载的平台。
高性能数据分析搭载 A100 的加速服务器可以提供必要的计算能力，并能利用大容量显存、超过 2 TB/s 的显存带宽以及通过 NVIDIA® NVlink® 和 NVSwitch™ 实现的可扩展性，处理这些工作负载。
通过结合 InfiniBand、NVIDIA Magnum IO™ 和 RAPIDS™ 开源库套件（包括用于执行 GPU 加速的数据分析的 RAPIDS Accelerator for Apache Spark），NVIDIA 数据中心平台能够加速这些大型工作负载，并实现超高的性能和效率水平。
在大数据分析基准测试中，A100 80GB 提供的见解吞吐量比 A100 40GB 高两倍，因此非常适合处理数据集大小急增的新型工作负载。
相较于 A100 40GB，速度提升 2 倍A100 80GB规格ICQQG提供目前AI领域训练专用的GPU产品型号的参数，规格数据表等内容。
以下是NVIDIA GPU产品的基本信息RTX A4500 20GB GDDR6 320bitRTX A5500 24GB GDDR6 384bitRTX A5000 24GB GDDR6 384bitRTX A5000 24GB GDDR6 384bitRTX A6000 48GB GDDR6 384bitRTX A6000 48GB GDDR6 384bitRTX4000ada 20GB GDDR6 160bitRTX6000ada 48GB GDDR6 384bitRTX8000 48GB GDDR6 384bitRTX8000 48GB GDDR6 384bitTesla T4 16GB GDDR6 256bitTesla V100 32GB HBM2 4096bitTesla V100sxm2 32G HBM2 4096bitTesla A2 16GB GDDR6 128bitTesla A10 24GB GDDR6 384bitTesla A16 64GB GDDR6 128bitTesla A30 24GB HBM2 3072bitTesla A40 48GB GDDR6 384bitTesla A100 40GB HBM2 5120bitTesla A100 80G HBM2 5120bitTesla A100SXM4 80GB HBM2 5120bitTesla A800 80GB HBM2 5120bitTesla P100 16GB HBM2 4096bit