老黄在 CES 上发布的迷你超算Project DIGITS世界杯体育,开启了 AI 超算的 PC 时候。 但飞快也激发了不小争议,还遭到了大佬的贴脸嘲讽。 在 AMD 和英特尔齐使命过的芯片瞎想各人Raja Koduri实名吐槽谈: FLOPs 除以 4,价钱翻倍,这便是在 CES 上 stay grounded 的诀要。 其后 Koduri 在网友追问下给出了留意解释,默示英伟达宣传的算力是在 FP4 精度下的,而 Project DIGITS在 FP16 下的推崇,可能就和 5070 差

老黄在 CES 上发布的迷你超算Project DIGITS世界杯体育,开启了 AI 超算的 PC 时候。
但飞快也激发了不小争议,还遭到了大佬的贴脸嘲讽。
在 AMD 和英特尔齐使命过的芯片瞎想各人Raja Koduri实名吐槽谈:
FLOPs 除以 4,价钱翻倍,这便是在 CES 上 stay grounded 的诀要。

其后 Koduri 在网友追问下给出了留意解释,默示英伟达宣传的算力是在 FP4 精度下的,而 Project DIGITS在 FP16 下的推崇,可能就和 5070 差未几,以致接近 Intel Arc B580(售价 250 好意思元)。

友商 Tiny Corp 更是收拢这小数猛地一波输出,成功默示,东谈主们趋之若鹜的的所谓 3000 好意思元超算,便是纯纯的诈欺。
临了还不忘再补一刀说,3000 好意思元还不如买个游戏电脑。

对于细节,Tiny Corp 在另一则推文里默示,FP4 根柢就没法用,Project DIGITS 在 FP8 精度下只消 500TFLOPs,趁机宣传自家的居品有 4PFLOPs,是 Project DIGITS 的 8 倍。

史上最迷你超算,售价 22000 起
英伟达先容,这一波发布的 Project DIGITS,不错说是当今体积最小的 AI 超算。
Project DIGITS 将于本年 5 月份由官方和顶级配合商一同发售,起售价 3000 好意思元,约合东谈主民币两万二。

它搭载了英伟达全新Grace Blackwell 超等芯片—— GB10,FP4 运算才气达到了1PFLOPs。
GB10 包含了英伟达 Blackwell GPU,具有最新一代 CUDA 中枢和第五代 Tensor Cores。
CPU 则是与联发科配合研发的 Grace CPU,基于 Arm 架构,领有 20 个节能中枢。
CPU 和 GPU 之间,则是通过 NVLink-C2C 芯片到芯片互连贯穿,另外还有 128GB 结伙内存和 4TBNVMe 存储。

据先容,Project DIGITS 不错在桌面端启动 200B 大模子,还不错把两台组合到一齐,跑 405B 的模子。

此外英伟达还给用户配有 AI 软件库,包括 NGC 目次和开采者学派中的软件开采器具包、编排器具、框架和模子等,可用 NVIDIA NeMo 框架微调模子、NVIDIA RAPIDS 库加快数据科学,启动 PyTorch 等常见框架。
还不错控制 NVIDIA Blueprints 和 NVIDIA NIM 微就业构建智能 AI 应用。
何况在桌面系统上对大模子搞完开采或推理之后,还不错无缝部署到加快云或数据中心基础本事里。
英伟达的桌面 CPU 运筹帷幄
之前有传言称,英伟达运筹帷幄在本年进犯耗尽级 CPU 市集。
此次的 Project DIGITS 中,20 个节能中枢的 Grace CPU 便是英伟达的第一次试水。
黄仁勋在投资者演讲中复兴分析师的问题时默示,英伟达与联发科共同瞎想了一款"不错闲居销售的"节能 CPU。
不外,搭载新 CPU 的 Project DIGITS 主要面向 AI 从业东谈主员,主要启动 Linux 系统,离成为民众耗尽市集开采回存在距离。
但老黄也明确默示,英伟达对于桌面级的 CPU"有进一步运筹帷幄",具体细节则要之后再显现。
不外这照旧充足解说,英伟达念念要进犯耗尽级 CPU 的说法属实。
何况老黄也对此充满了信心:
咱们将使其成为主流居品,将养精蓄锐辅助专科和高质料的软件,而 PC(制造商)将向最终用户提供它。
另外,与英伟达配合的联发科可能也有我方的贪心。
老黄默示,联发科既不错把居品提供给英伟达,也可能自行保留并推向市集。
不外至少在当今看来世界杯体育,黄仁勋依然合计与联发科的配合是一个双赢的效果。