智通财经APP获悉,3月19日,NVIDIA英伟达(NVDA.US)本日晓示推出NVIDIA Blackwell AI工场平台的新一代居品 —— NVIDIA Blackwell Ultra,开启了AI推理新期间。
NVIDIA Blackwell Ultra 提高了检会和测试时膨大推理才能(test-time scaling inference), 即通过在推理经过中加多谋略量来提高准确率的工夫,以匡助大家各地的企业加快AI推理、代理式AI及物理AI等应用的开拓与部署。
基于一年前推出的破损性的Blackwell架构,Blackwell Ultra包括 NVIDIA GB300 NVL72机架级管制决策和NVIDIA HGX B300 NVL16系统。GB300 NVL72的AI性能是NVIDIA GB200 NVL72的1.5倍,这使得开拓AI 工场的收入契机与基于 NVIDIA Hopper构建的系统比较加多了50倍。
“东谈主工智能杀青了刚劲的飞跃 —— 推理和代理式AI对谋略性能的需求呈数目级增长,”NVIDIA创举东谈主兼首席奉行官黄仁勋表露。“咱们为这一时辰联想了Blackwell Ultra——它是一款单一且多功能的平台,有时唐突高效地完成预检会、后检会以及推理型AI推理任务。”
NVIDIA GB300 NVL72在一个机架联想中联络了72个Blackwell Ultra GPU和36个基于Arm Neoverse架构的 NVIDIA Grace CPU,举座证据如统一个巨型GPU,专为测试时膨大而打造。通过GB300 NVL72,AI模子有时摆布平台增强的谋略才能探索多种管制决策,将复杂苦求明白为多个才能,从而生成更高质料的反映。
GB300 NVL72展望还将通过NVIDIA DGX Cloud 提供,该平台是一个端到端的全托管 AI 平台,部署于极端的云职业上,通过软件、职业和 AI 专科学问为不休发展的职责负载优化性能。配备DGX GB300系统的NVIDIA DGX SuperPOD选拔 GB300 NVL72 机架联想,为客户提供了一个交钥匙式 AI 工场。
NVIDIA HGX B300 NVL16比较Hopper代居品,LLM 推理速率提速了11倍,谋略性能提高了7倍,内存容量扩大了4倍,可为最复杂的职责负载(如 AI 推理)提供破损性性能。
此外,Blackwell Ultra平台相等适用于以下应用:
代理式AI, 摆布复杂推理和迭代谋略自主管制复杂的多才能问题。 AI智能体系统超越了简便的提醒奉行。他们有时推理、谋略并选拔行径以杀青特定意见。
物理 AI,使企业有时及时生成合成的、具有高度着实感的视频,用于大领域检会机器东谈主和自动驾驶汽车等应用。
NVIDIA表露,联念念(00992)、戴尔和超微等调和伙伴展望将从2025年下半年运行推出基于Blackwell Ultra的千般职业器。
【免责声明】本文仅代表作家本东谈主不雅点,与和讯网无关。和讯网站对文中诠释、不雅点判断保抓中立,划分所包含实质的准确性、可靠性或完满性提供任何昭示或表露的保证。请读者仅作参考,并请自行承担沿途连累。邮箱:news_center@staff.hexun.com