商汤科技的最新纪要揭秘了一个令人啼笑皆非的数字:只有六家中国企业能够负担起训练像ChatGPT这样的生成式AI所需的庞大算力,这意味着他们需要至少1万张NVIDIA A100加速卡来支撑这一切。其中,百度、腾讯、字节跳动和阿里巴巴等互联网巨头显得格外坚韧,他们已经开始在自己的产品中植入AI技术,如百度推出的文心一言。
然而,这些高性能加速卡如同稀土一样珍贵,国内市场上的NVIDIA高端显卡更是难以买到手。原因很简单:NVIDIA A100计算卡自2020年问世以来,就以其强大的542亿个晶体管、8196个流处理器和40GB HBM2显存等配置而受到瞩目,它们提供了19.5TFlops的单精度浮点性能,是当前最顶级的硬件之一。但这份强大的力量并不是免费赠送,它们功耗惊人达250W,因此能承受这样高昂硬件投入的企业,目前仍然不多。
(8152743)