作为整个AI大潮的算力基础,英伟达的A100和H100 GPU(图形处理器)正成为抢手货,特别是旗舰级别的新款H100在海外的价格也遭到炒作。
Keen Technologies CEO、著名游戏开发者约翰·卡马克最先注意到这一现象,他在推特上称,英伟达AI旗舰芯片H100的售价在多个商铺超过了4万美元。截至本周一,海外电商平台eBay上至少有6家店铺出售H100。通常而言,英伟达的A100、H100等AI芯片以企业出货为主,较少在公开市场零售,存在一定炒作空间。
在由ChatGPT推动的人工智能潮流中,GPU对于训练AI模型至关重要。微软已经投入数亿美元购买了数万颗A100芯片用于开发ChatGPT。此外,英伟达还有搭载自家GPU的超级计算机DGX,配置有8块GPU。在今年GTC(英伟达开发者大会)上,英伟达推出了AI云服务DGX Cloud,通过云厂商平台向用户提供能够训练生成式AI大模型的算力月租服务。
对于中国市场,黄仁勋在GTC期间对界面新闻等媒体表示,将会继续和云服务商合作推出该服务。“通过阿里巴巴、腾讯、百度等云服务合作伙伴提供落地能力,它们完全有能力提供顶级的AI算力服务系统。”黄仁勋称,目前英伟达可向国内出货符合美国出口管制条件的定制版A800和H800芯片,作为中国“特供版”。
国内部分云厂商已迅速跟进,使用英伟达新款GPU。4月14日,国内第四大云厂商腾讯也宣布推出新一代的高性能计算集群,该集群采用腾讯云自研服务器,搭载了英伟达最新的中国特供版GPU H800,服务器间的连接带宽高达3.2Tbps。腾讯称,该服务器集群算力性能较前代提高了3倍,将腾讯自研的“混元NLP大模型”训练时间由11天缩短至4天。
对于H800在国内的出货情况,英伟达相关人士向界面新闻记者回应称,“客户已在预订中。”
有知情人士告诉界面新闻,A800、H800芯片目前正遭到包括服务器、互联网厂商的国内公司“哄抢”,“H800国内开始出货了,但本来产量也不多。A800国内今年一年出货的量,超过一半在互联网公司,”该知情人士称,“H800出货更少,剩下客户新订的可能最快要到12月才能交付。”
界面新闻记者 | 彭新