[返回政经纵横首页]·[所有跟帖]·[ 回复本帖 ] ·[热门原创] ·[繁體閱讀]·[坛主管理]

Blackwell 斜坡

送交者: laosanjie[★★声望品衔10★★] 于 2024-07-10 20:05 已读 1797 次  

laosanjie的个人频道

+关注

今年早些时候,特斯拉前AI总监兼OpenAI联合创始人安德烈·卡帕西在社交媒体上发表评论说,“金钱买不到幸福”。但是Nvidia的AI芯片?那就是另外一回事了。


现在,大多数人都知道了Nvidia的H100 AI图形处理单元。它已经成为技术领域最炙手可热的商品。该GPU推动公司最近一个季度的数据中心销售额从一年前的43亿美元增加到226亿美元。尽管过去一年大部分时间都面临销售短缺,但仍实现了这一业绩。


尽管H100具有开创性,但最新迹象和华尔街的检查表明,基于该公司新的Blackwell架构的Nvidia更新型GPU将使AI科学家更加满意,并推动Nvidia的销售再上一个新台阶。


三月份,Nvidia首席执行官黄仁勋对新芯片前景表示乐观,新芯片拥有2080亿晶体管,公司花费了100亿美元开发。“Blackwell将是我们历史上最成功的产品发布,”他在圣何塞GTC开发者大会上的主题演讲中说。


在会议上,他透露了一系列Blackwell产品,包括B100、B200、GB200 Superchip、HGX B200服务器板和GB200 NVL72服务器机架系统。预计这些产品将在今年分阶段发布。


但明星产品是GB200 NVL72 AI服务器系统。NVL72将36个GB200 Superchip编织在一起,每个GB200将两个Blackwell GPU与Nvidia Grace CPU连接起来,使它们能够更有效地协同工作。这意味着每个NVL72系统都有72个Blackwell GPU连接在一起,形成前所未有的计算能力密度。


这也意味着Nvidia最高端AI服务器系统的价格在上涨。去年,Nvidia将16个H100 GPU的两系统包装定价为40万美元。据KeyBanc称,GB200 NVL72的价格可能高达380万美元,远高于Nvidia 25年前每颗视频游戏图形芯片32美元的收入。


高价位似乎不太可能影响需求。KeyBanc分析师约翰·文估计,NVL72将占Nvidia GB200服务器机架销量的60%至70%,相对于较便宜的配置。他写道:“上个季度的反馈显示,对GB200明年的需求超过了我们上个季度最初听到的,可能支持2025年数据中心收入超过2000亿美元。”


对Nvidia数据中心部门明年可能创下2000亿美元的收入将是一个了不起的成就,从去年的480亿美元上升,并超过了华尔街目前预计的1400亿美元。这也与华尔街预计的苹果公司2025年度iPhone产生的收入2100亿美元相当。


客户对NVL72趋之若鹜,因为它比以往的型号更高效,为公司节省了在整体AI模型训练和查询上的资金。


Nvidia表示,GB200 NVL72的性能比相同数量的H100 GPU高出30倍,用于大型语言模型推理——从这些AI模型生成答案的过程——同时也降低了每单位计算的能源消耗成本。新系统在训练AI模型方面的速度也比Nvidia的上一版本快四倍。


每当黄仁勋在演讲中开玩笑说“买得越多,省得越多”时,观众常常笑,认为这主要是个玩笑。但Blackwell正在证明他的口头禅有一定的真实性。


现在的问题是,高需求将持续多久。上个月晚些时候,AI初创公司Anthropic的首席执行官达里奥·阿莫迪表示,AI模型的扩展速度令人印象深刻。阿莫迪指出,最新的尖端模型现在的建造成本为1亿美元,一些价值10亿美元的模型正在开发中。他预计到2027年将创建价值100亿至1000亿美元的模型。


在更大的AI模型在能力上显示出递减回报之前,Nvidia AI数据中心收入可能会持续上升。在那之前,看不到尽头。

By Tae Kim

喜欢laosanjie朋友的这个贴子的话, 请点这里投票,“赞”助支持!

内容来自网友分享,若违规或者侵犯您的权益,请联系我们

所有跟帖:   ( 主贴楼主有权删除不文明回复,拉黑不受欢迎的用户 )


用户名: 密码: [--注册ID--]

标 题:

粗体 斜体 下划线 居中 插入图片插入图片 插入Flash插入Flash动画


     图片上传  Youtube代码器  预览辅助

打开微信,扫一扫[Scan QR Code]
进入内容页点击屏幕右上分享按钮

楼主前期社区热帖:

>>>>查看更多楼主社区动态...



[ 留园条例 ] [ 广告服务 ] [ 联系我们 ] [ 个人帐户 ] [ 创建您的定制新论坛频道 ] [ Contact us ]