商汤科技最新纪要曝光:国内仅六家巨擘能负担训练ChatGPT级AI的昂贵算力需求
近日,商汤科技发布了一份令人瞩目的纪要,这份纪要揭示了一个行业内外人士都在努力寻找答案的问题:谁能负担起训练像ChatGPT这样前沿生成式人工智能所需的庞大计算资源?答案是,除了六家国内顶尖互联网公司之外,没有其他任何企业或研究机构能够承受这项挑战。
这些能够负担高额硬件成本的企业包括百度、腾讯、字节跳动和阿里巴巴等互联网巨头。它们不仅有足够的经济实力去购买至少1万块NVIDIA A100加速卡,还有技术能力去利用这些高性能设备来训练和优化AI模型。例如,百度已经推出了自己的生成性语言模型——文心一言,而腾讯也在积极发展自己的自然语言处理技术。
然而,对于那些希望跟上这一趋势,但还未准备好投入如此巨资的人来说,现在可是个艰难时期。全球范围内,尤其是在中国,购买NVIDIA高端显卡几乎成了不可能的事情。这一切都是因为NVIDIA A100计算卡作为2020年首款安培架构产品,其配置堪称豪华:542亿个晶体管、8196个流处理器以及40GB HBM2显存等,这些让它提供了19.5TFlops单精度浮点性能。但是,它们同样拥有250W高功耗,使得它们成为一种奢侈品。
因此,在这个充满竞争与机遇的时代,只有少数几个能够承受这样巨额硬件投入的企业才是幸运者。而对于那些想要加入这一行列却仍然缺乏足够财力和资源的小型企业或初创公司来说,他们必须不断寻找新的方法来克服现有的限制,以便能够参与到这个不断进步的人工智能领域中。