首页 > 科技 > 正文

搞定1730亿参数大语言模型手机遥控器 !NVIDIA下代巨型GPU露出獠牙


更新日期:2023-11-15 00:25:21来源:网络点击:1999739
快科技11月14日消息,NVIDIA第一次披露了下一代AI/HPC加速器的情况,架构代号Blackwell,核心编号GB200,加速器型号B100。

NVIDIA第一次公开确认,B100将在2024年发布,但未出更具体的时间表。

此前曝料称,B100原计划2024年第四季度推出,但因为AI需求太火爆,已经提前到第二季度,现已进入供应链认证阶段。

搞定1730亿参数大语言模型!NVIDIA下代巨型GPU露出獠牙

NVIDIA表示,B100加速器可以轻松搞定1730亿参数的大语言模型,是现在H200的两倍甚至更多。

虽然这不代表原始计算性能,但也足以令人望而生畏。

搞定1730亿参数大语言模型!NVIDIA下代巨型GPU露出獠牙

同时,B100还将带来更高级的HBM高带宽内存规格。

回顾历史,Pascal P100、Ampere A100、Hopper H100、H200分别首发应用HBM2、HBM2e、HBM3、HBM3e。

接下来的B100肯定赶不上HBM4(规范还没定呢),但必然会在堆叠容量、带宽上继续突破,大大超越现在的4.8TB/s。

搞定1730亿参数大语言模型!NVIDIA下代巨型GPU露出獠牙

Blackwell架构同时也会用于图形工作站和桌面游戏,传闻有GB202、GB203、GB205、GB206、GB207等不同核心,但是对于RTX 50系列,NVIDIA始终三缄其口,几乎肯定到2025年才会发布。

搞定1730亿参数大语言模型!NVIDIA下代巨型GPU露出獠牙

2024年就将是RTX 40 SUPER系列的天下了,明年初的CES 2025首发三款型号RTX 4080 SUPER、RTX 4070 Ti SUPER、RTX 4070 SUPER。


相关:

父母离婚大战 随谁生活孩子有“发言权”  2016年5月,最高人民法院在全国范围确定118家中基层法院作为试点,正式启动家事审判方式和工作机制改革工作。在上海,多家法院与社会组织携手,探索家事案件纠纷解决机制。根据上海市第二中级人民法院与上海市..

购物节落幕虽然报喜 老问题依旧挥之不去  羊城晚报财经评论员 戚耀琪  第15届双11购物节落下帷幕,依旧没有总交易额的公布。在这一激烈的竞技场,淘天集团方面称,用户规模和商家规模显著增长,规模优势进一步扩大,带动订单量和成交总额全面增长,..

上一篇: 被低价刷屏的2023年双11,发生了哪些变化?
下一篇: 李想发布跳楼视频:这是MindGPT逼我的