几类有代表性的训练与推理硬件平台，用于对照不同的定位。以下参数按 2026-09-27 查阅的官方资料记录。峰值算力必须连同精度、稀疏或稠密口径一起比较，不能直接换算成实际模型吞吐。
NVIDIA DGX Spark
- 定位：桌面级的个人 AI 开发机，用于原型开发与本地推理，不能替代生产集群。
- 芯片：GB10 Grace Blackwell 超级芯片（与联发科合作设计），CPU 与 GPU 通过 NVLink-C2C 共享 128 GB 统一内存。
- 算力：最高约 1 PFLOP，指 FP4 稀疏算力，不是稠密 BF16 算力，也不是实测应用速度。
- 模型规模：官方给出的上限是单机约 2000 亿参数、双机互联约 4050 亿参数。这依赖低比特量化等配置，不能理解成任意精度均可运行；仅 2000 亿参数的 BF16 权重就约需 400 GB，此外还要计入 KV 缓存、量化元数据和运行时内存。
NVIDIA Vera Rubin NVL72
- 定位：数据中心级的机架平台，覆盖训练、推理、后训练与测试时扩展。具体可用性与交付时间取决于供应商，不能由峰值规格推断。
- 组成：一个液冷机架内集成 72 颗 Rubin GPU 与 36 颗 Vera CPU，通过第六代 NVLink 互联。
- 单颗 Rubin GPU：约 3360 亿晶体管，288 GB HBM4；官方表列 NVFP4 推理约 50 PFLOPS（稀疏），训练约 35 PFLOPS（稠密）。两项口径不同，不能直接据此比较推理和训练效率。
- 整机架：NVFP4 推理约 3.6 EFLOPS（稀疏），训练约 2.52 EFLOPS（稠密）。
Google TPU v6e（Trillium）
- 定位：Google 第六代 TPU，只在 Google Cloud 上提供，与其云服务深度整合。
- 单芯片：BF16 峰值约 918 TFLOPS，32 GiB HBM，内存带宽约 1638 GB/s。
- 扩展：以 Pod 为单位扩展，一个 Pod 最多 256 颗芯片。
Graphcore IPU
- 架构特点：处理器内置大容量片上存储（in-processor memory），以计算图级并行为核心设计。
- 背景：2024 年 7 月被软银收购，成为其全资子公司。采用 IPU 需要评估对应编译器、框架支持和迁移工作，不能直接套用 CUDA 平台的性能经验。
参考资料
- NVIDIA：DGX Spark Hardware Overview
- NVIDIA：Vera Rubin NVL72 规格与稀疏／稠密脚注
- NVIDIA：Rubin GPU 架构
- Google Cloud：TPU 芯片规格
- Graphcore：集团税务策略中的收购与股权说明
相关专题
- 边缘与本地部署：DGX Spark 这类本地设备的使用方式。
- 优化器、学习率调度与混合精度：FP8、NVFP4 等低精度格式。
- 量化
- 节能与绿色AI