主要特性:
> 基于 NVIDIA GB10 Grace Blackwell 超级芯片构建;
> 配备 NVIDIA Blackwell GPU, ⽀持第五代 Tensor Core 技术;
> NVIDIA Grace CPU 采用⾼性能 20-core Arm 架构;
> 支持 FP4,可提供⾼达 1000 TOPS 的 AI 性能;
> 128 GB 统一寻址系统内存;
> 支持高达 200B 参数的模型;
> NVIDIA ConnectX™ 网络可连接 两台系统,从 参数的模型进 而支 行处理;
> 支持高达 4 TB 的 NVMe 存储
> 小巧的桌面端外形。
桌面端 AI 计算需求
生成式AI模型的规模和复杂性与日俱增,这使得本地系统的开发工作更具挑战性。在本地进行大规模的原型设计、微调和推理需要大量显存和出色的计算性能。随着
企业、软件提供商、政府机构、初创企业和研究人员不断加大AI开发工作力度,对AI计算资源的需求也持续增长。
桌面端的 200B 参数模型
NVIDIA DGX™ Spark 是专为完整构建和运⾏ AI ⽽设计的新型计算机。NVIDIA DGX Spark 搭载了 NVIDIA GB10 Grace Blackwell 超级芯⽚,基于先进的 NVIDIA Grace
Blackwell 架构设计,能够提供⾼达 1000 AI TOPS 的性能,为⼤型 AI ⼯作负载提供动⼒。借助 128 GB 的统一寻址系统内存,开发⼈员可以对多达 200B 参数的模型进
⾏ 试验、微调或推理。此外,NVIDIA ConnectX™ ⽹络可以连接两台 NVIDIA DGX Spark AI 超级计算机,从⽽⽀持对多达 405B 参数的模型进⾏推理。
为了给开发者带来熟悉的体验,NVIDIA DGX Spark 采⽤了与⼯业级 AI ⼯⼚相同的 软件架构。基于 NVIDIA DGX OS 和 Ubuntu Linux 并预先配置最新的 NVIDIA AI 软件
堆栈,以及对开发⼈员开放 NVIDIA NIM™ 和 NVIDIA Blueprint 的访问权限,开发⼈员 可以使⽤ Pytorch、Jupyter 和 Ollama 等常⽤⼯具在 NVIDIA DGX Spark 上进⾏原型
设计、微调和推理,并⽆缝部署到数据中⼼或云基础设施。
NVIDIA DGX Spark 研究⼈员、数据科学家和学⽣继续突破⽣成式 在⼩巧的封装中提供出⾊的性能和强⼤的功能,助⼒开发者、 AI 的边界
基于 NVIDIA Grace Blackwell 架构
NVIDIA DGX Spark 的核⼼是新的 GB10 Grace Blackwell 超级芯⽚,该芯⽚基于 NVIDIA Grace Blackwell 架构,并针对桌⾯端外形进⾏了优化。GB10 配备功能强⼤的
NVIDIA Blackwell GPU,⽀持第五代 Tensor Core 和 FP4,可提供⾼达 1000 TOPS 的AI 和编排,从⽽加速模型调整和实时推理。 计算性能。GB10 还包含⾼性能 Grace 20
-core Arm CPU GB10 超级芯⽚使⽤ ,可强效助⼒数据预处理 NVLink™-C2C 互联技术, 提供 CPU + GPU 相结合的⼀致性内存模型,带宽是第五代 PCIe 的 5 倍。