硬件产品 NVIDIA 边缘计算 NVIDIA DGX Spark AI超级计算机
产品简介
详情介绍
NVIDIA DGX Spark AI超级计算机

NVIDIA DGX Spark AI超级计算机

由 NVIDIA GB10 Grace Blackwell 超级芯片驱动,NVIDIA DGX Spark™ 以节能高效和紧凑外观,具备高达 1 petaFLOP1 的 AI 性能。借助预装的 NVIDIA AI 软件栈和 128 GB 内存,开发者可以对 DeepSeek、Meta、Google 和其他公司的最新一代推理 AI 模型进行原型制作、微调和推理,这些模型在本地具有多达 2000 亿个参数,并无缝部署到数据中心或云端。

留言咨询

您的姓名*

您的邮箱

手机号码*

公司名称

所在城市*

咨询内容*

提交

详情介绍

主要特性:

> 基于 NVIDIA GB10 Grace Blackwell 超级芯片构建;
> 配备 NVIDIA Blackwell GPU, ⽀持第五代 Tensor Core 技术;
> NVIDIA Grace CPU 采用⾼性能 20-core Arm 架构;
> 支持 FP4,可提供⾼达 1000 TOPS AI 性能;
> 128 GB 统一寻址系统内存;
> 支持高达 200B 参数的模型;
> NVIDIA ConnectX网络可连接 两台系统,从 参数的模型进 而支 行处理;
> 支持高达 4 TB NVMe 存储
> 小巧的桌面端外形。
桌面端 AI 计算需求
生成式AI模型的规模和复杂性与日俱增,这使得本地系统的开发工作更具挑战性。在本地进行大规模的原型设计、微调和推理需要大量显存和出色的计算性能。随着
企业、软件提供商、政府机构、初创企业和研究人员不断加大AI开发工作力度,对AI计算资源的需求也持续增长。
桌面端的 200B 参数模型
NVIDIA DGX Spark 是专为完整构建和运⾏ AI ⽽设计的新型计算机。NVIDIA DGX Spark 搭载了 NVIDIA GB10 Grace Blackwell 超级芯⽚,基于先进的 NVIDIA Grace
Blackwell 架构设计,能够提供⾼达 1000 AI TOPS 的性能,为⼤型 AI ⼯作负载提供动⼒。借助 128 GB 的统一寻址系统内存,开发⼈员可以对多达 200B 参数的模型进
试验、微调或推理。此外,NVIDIA ConnectX⽹络可以连接两台 NVIDIA DGX Spark AI 超级计算机,从⽽⽀持对多达 405B 参数的模型进⾏推理。
为了给开发者带来熟悉的体验,NVIDIA DGX Spark 采⽤了与⼯业级 AI ⼯⼚相同的 软件架构。基于 NVIDIA DGX OS Ubuntu Linux 并预先配置最新的 NVIDIA AI 软件
堆栈,以及对开发⼈员开放 NVIDIA NIM NVIDIA Blueprint 的访问权限,开发⼈员 可以使⽤ PytorchJupyter Ollama 等常⽤⼯具在 NVIDIA DGX Spark 上进⾏原型
设计、微调和推理,并⽆缝部署到数据中⼼或云基础设施。
NVIDIA DGX Spark 研究⼈员、数据科学家和学⽣继续突破⽣成式 在⼩巧的封装中提供出⾊的性能和强⼤的功能,助⼒开发者、 AI 的边界
基于 NVIDIA Grace Blackwell 架构
NVIDIA DGX Spark 的核⼼是新的 GB10 Grace Blackwell 超级芯⽚,该芯⽚基于 NVIDIA Grace Blackwell 架构,并针对桌⾯端外形进⾏了优化。GB10 配备功能强⼤的
NVIDIA Blackwell GPU,⽀持第五代 Tensor Core FP4,可提供⾼达 1000 TOPS AI 和编排,从⽽加速模型调整和实时推理。 计算性能。GB10 还包含⾼性能 Grace 20
-core Arm CPU GB10 超级芯⽚使⽤ ,可强效助⼒数据预处理 NVLink-C2C 互联技术, 提供 CPU + GPU 相结合的⼀致性内存模型,带宽是第五代 PCIe 5 倍。

如有业务需求,欢迎留言咨询,我们将为您提供更多服务方案。