
为什么要依赖数据中心,当你可以在桌面上运行通常在云端才有的成熟AI模型时?这正是戴尔为其新PC产品提出的论点,其中一款配备了数据中心级GPU,能够运行万亿参数的AI模型。
戴尔Pro Max GB300桌面产品配备了英伟达Grace Blackwell Ultra GB300超级芯片,这是同样用于数据中心运行最苛刻AI模型的处理器。
"想象一下一家小公司...将万亿参数的Kimi K2.5模型加载到GB300上,"戴尔产品负责人Charlie Walker在简报会上表示。
Pro Max GB300桌面产品的推出,正值更多AI技术被设计为在PC上运行,企业也在寻求降低云计算成本之际。例如,OpenClaw是一种AI技术,可以运行智能体来自动化PC上的工作,同时协调这些任务与基于云的大语言模型。
英伟达本质上是将GB300超级芯片从数据中心中抽出,并将其装入桌面设备。由于AI计算依赖于Token,企业可以节省资金,因为在桌面上生成Token的成本比在云端显著更低。
"你可以将Token生成视为为公司创造收入——将其从云端拉出来,放在桌边,"Walker说道。
不过,令人印象深刻的AI性能也有其不利之处:Pro Max GB300是一个1600瓦的庞然大物,这意味着电费将会更高。戴尔没有透露这款桌面产品的价格,但它会很昂贵——CDW已为MSIGB300工作站标价97,000美元。
英伟达正在领导桌面AI PC的开发,其GPU通过PC制造商销售。Pro Max GB300配备了DGX B300,具有252GB HBM3e内存。英伟达还有一款名为DGX Spark的AI桌面,价格为4,699美元,配备功能稍弱的GPU。
这些高端PC"让开发者能够将某些东西放在桌子上或桌子下,对数据安全、访问和控制完全有信心,"英伟达企业平台副总裁Chris Marriott在新闻电话会议中表示。
Marriott说,桌面是实验的绝佳场所,因为开发者可以在桌面上微调模型,然后再部署到云端。
Marriott表示,开发AI模型并不像发出提示并获得回应那么简单。一些AI任务会持续运行数周甚至数月,特别是像OpenClaw这样的智能体之间相互对话以及企业运行代码时。
更长的任务会生成更多Token,让桌面能够提供一个沙盒环境来测试智能体,然后再将生产模型部署到云端。智能体工作流程也可以与云端模型进行测试。
"当你运行智能体时——特别是部署生产智能体——你总是希望运行你能负担得起的最高级别智能,因为你要给它们分配长期运行的任务,"Marriott说道。
戴尔没有宣布Pro Max GB300的发货日期,但表示一些设备已经交付给客户。这一宣布的时机配合了英伟达在加利福尼亚州圣何塞举行的GTC开发者大会,该大会将持续到周四。
尽管桌面AI一直是可能的,特别是通过游戏GPU,但GB300超级芯片是专为AI而非游戏明确设计的。早期围绕AI PC的炒作主要集中在笔记本电脑上,这些产品正在帮助改善PC功能。
J. Gold Associates首席分析师Jack Gold表示,随着AI处理扩展到数据中心之外的更多计算设备,戴尔新桌面产品的重要性日益显现。尽管这种快速发展的技术是通过服务器上的大语言模型突破的,但AI正越来越多地通过推理和小语言模型向边缘迁移。
即便如此,云计算仍将是企业AI应用的主流。模型通过混合云服务器有效提供服务,为扩展AI基础设施提供更多计算能力。
Q&A
Q1:戴尔Pro Max GB300桌面产品有什么特别之处?
A:戴尔Pro Max GB300桌面产品配备了英伟达Grace Blackwell Ultra GB300超级芯片,这是同样用于数据中心的处理器,能够运行万亿参数的AI模型,让企业在桌面端就能运行通常需要云端才能处理的复杂AI任务。
Q2:使用桌面AI相比云端AI有什么成本优势?
A:由于AI计算依赖于Token,在桌面上生成Token的成本比在云端显著更低。企业可以将Token生成从云端转移到桌面端,从而节省大量云计算费用,特别是对于需要长期运行的AI任务。
Q3:Pro Max GB300的缺点和价格如何?
A:主要缺点是功耗高达1600瓦,会导致电费增加。价格方面戴尔未公布具体数字,但会很昂贵,类似的MSI GB300工作站标价达到97,000美元。