ChatGPT!!! 据国盛证券报告《ChatGPT需要多少算力》估算,GPT-3训练一次的成本约为140万美元,对于一些更大的LLM(大型语言模型),训练成本介于200万美元至1200万美元之间。以ChatGPT在1月的独立访客平均数1300万计算,其对应芯片需求为3万多片英伟达A100 GPU,初始投入成本约为8亿美元,每日电费在5万美元左右。如果将当前的ChatGPT部署到谷歌进行的每次搜索中,需要512820.51台 A100 HGX服务器和总共 4102568个A100 GPU,这些服务器和网络的总成本仅资本支出就超过 1000亿美元。此外,ChatGPT估算生成一条信息的成本约为1.3美分,是目前传统搜索引擎的三到四倍。 |