首页 / 热点百科

ChatGPT正在榨干算力,如何打赢这场算力攻坚战?

2025-06-28 09:07热点百科

如何用更少的电,输出更高的算力?

史上用户增速最快消费级应用ChatGPT,自去年11月底发布以来,让全球为其狂欢,各方势力仍持续为此“上火”:用户急着试探ChatGPT是否真的有那么聪明,每天有超过2亿的人都在疯狂抛出各式各样的问题“刁难”ChatGPT,并展现自己的“调教”成果;

(ChatGPT每日点击访问量统计 图源:国盛证券研究所)

国内互联网大厂们基于要“活下去”的心愿和讲更动听的AI故事,急着与ChatGPT扯上关系:一时间百度、腾讯、阿里等纷纷拿出相关技术布局以及底层设施储备,为中国的ChatGPT奋力一战;

近3个月过去,ChatGPT热度丝毫未减,有关部门也在努力

2月24日,东数西算一体化算力服务平台在宁夏银川正式上线发布。据悉,东数西算一体化算力服务平台将瞄准目前最稀缺、刚需迫切的ChatGPT运算能力,以支撑中国人工智能运算平台急需的大算力服务。

目前,该平台已吸引曙光、中国电子云、天翼云、阿里云、华为、中兴等大算力头部企业,以及国家信息中心、北京大数据研究院等中国主要大数据机构入驻。

各方势力蜂拥而至,足以见得,目前的算力填补不了ChatGPT们的需求,众志成城,才能打赢ChatGPT算力攻坚战。

本文试图探究,ChatGPT到底需要多大的算力?升级算力的路子是什么?

ChatGPT,企图榨干算力

通用AI时代来临,人类对于算力的需求正逐渐失控。

伴随着摩尔定律失效,大模型时代来临,算力不再“淡定”,每5-6个月就要翻倍,以困兽冲破牢笼之势飞速增长:

(模型发布时间及算力变化 图源:浙商证券)

2018年,谷歌带着3亿参数BERT模型,闯进大众视野,开启大规模预训练模型时代;在这之后,OpenAI、英伟达、微软先后推出15亿参数的GPT-2、83亿参数的Megatron-LM、170亿参数的图灵Turing-NLG,各个大厂暗自较劲,参数规模从十亿级别竞争到了百亿级别。

2020年6月,OpenAI又将算力“战场”拔高了一个层级:推出1750亿参数的GPT-3,把参数规模提高到千亿级别。随后一山更比一山高:微软和英伟达在2020年10月联手发布了5300亿参数的Megatron-Turing自然语言生成模型(MT-NLG)。

2021年,国内迎来预训练大模型元年。在这一年里,华为、百度、阿里等中国企业开始发力:

华为云联合北京大学发布盘古α超大规模预训练模型,参数规模达2000亿;

百度推出ERNIE 3.0 Titan模型,参数规模达2600亿;

阿里达摩院的M6模型参数达到10万亿,又将大模型参数带到新的高度 ……

在这之中表现最为亮眼的,莫过于从GPT-3迭代而来的ChatGPT,2022年底一出世就博得全球目光,无论是在模型预训练阶段,还是模型被访问阶段,ChatGPT都对算力提出“史无前例”的要求。

在模型预训练阶段,从GPT-1到GPT-3,从GPT-3 Small到GPT-3 175B,对算力的需求呈指数型增长。

在大模型的框架下,每一代 GPT 模型的参数量均高速扩张,参数量从GPT-1的1.17亿个,翻了1029倍至GPT-3 的1750 亿个;

具体来看,在GPT-3历代模型中,短短2年,参数量便从GPT-3 Small的1.25亿个,翻了1399倍至GPT-3的1750亿个,未来GPT-4还要翻倍:根据 Altman 的介绍,预计GPT-4的参数将会达到2800亿个。

与此同时,在模型被访问阶段,ChatGPT对算力同样有着“狂热”需求:

据Similarweb数据,ChatGPT官网在2023年1月27日-2月3日一周内吸引的每日访客数量高达2500万。假设以目前的稳定状态,每日每用户提问约10个问题,则每日约有2.5亿次咨询量。

如果想要“消化”掉这2.5亿次咨询量,根据国盛证券测算,需要大量的A100 GPU芯片“连夜赶工”:

假设每个问题平均30字,单个字在A100 GPU上约消耗350ms,则一天共需消耗729,167个A100 GPU运行小时,对应每天需要729,167/24=30,382片英伟达A100 GPU。

也就是说,目前每天2.5亿次咨询量,需要30,382片英伟达A100 GPU同时计算,才能把ChatGPT“喂饱”,以下是ChatGPT部分耗费(电费以0.08美元/kwh计算):

而以上图表所显示的,仅仅是2.5亿咨询量需求下,使用英伟达A100 GPU相关设备,ChatGPT所需要的算力成本。

其背后对能源的消耗,更是“触目惊心”。

猜你喜欢

  • 人类之最

    人类最稀有血型被发现!全世界仅她一人拥有!究竟是如何得来的?

    6月21日,法国血液供应机构(EFS)宣布发现人类第48个血型系统,创造了血型学研究的新里程碑。这一发现已获得国际输血学会(ISBT)官方认可,并在今年5月31日的米兰世界大会上引发轰动,被专家称为杰出成就。更令人震撼的是:全世界只有一个人拥有这种血型——一位来自瓜德罗普岛的女性,她是地球上唯一的GWADA阴性血型携..

    2025-06-28
  • 百科大全

    上坡动力不足应该踩油门还是降档(上坡动力不足应该如何操作

    上坡动力不足应该踩油门还是降档汽车上坡动力不足说明发动机扭力已经拉不动现有的货物,必须减档继续爬坡楼。发动机动力不足继续踩油门也没有什么意义,这样对发动机会有很大损伤,因为发动机输出最大功率是固定的,而通过变速箱改变输出扭矩,所以只能减档继续爬坡,保证安全性及动力性!上坡动力不足应该怎么操作先降档后..

    2025-06-28
  • 热点百科

    低配置手机开发者选项如何弄

    手机的“开发人员选项”在大家的印象中是不是个高逼格的操作。里面有很多实用的小功能。但是建议大家开的时候需谨慎,调乱后会出现跳屏,小框框等问题。下面我们理智的分析下这些小功能。打开“开发人员选项”一般在手机的“设置”——“关于手机”——连续点击“版本号”——提示处入“开发者模式”——返回上一界面找到“..

    2025-06-28
  • 商业之最

    街头赌徒如何炼成商业悍将?看胡雪岩的识人用人

    杭州街头,一个输得精光的赌徒正被债主追打。谁能想到,这个连鞋都跑丢的混混,日后竟成了晚清首富胡雪岩的左膀右臂?今天我们就来揭秘这段堪比《狂飙》的商业逆袭传奇。一、赌桌上的蒙尘之刀1860年深秋,胡雪岩在阜康钱庄后院接见了一个特殊客人——陈世龙。这个被郁四带来的年轻人,鞋帮子破得能看见脚趾,眼神却像淬了火..

    2025-06-27
  • 热点百科

    手机进水屏幕有线条如何办

    手机进水屏幕有线条如何办?检查条纹是处在屏幕内还是外在看到手机屏幕有条纹时,我们先检查这些条纹是处在手机外屏幕还是内屏幕如果是外屏幕,我们用湿的干净布进行反复擦拭至干净即可,现在小编就来说说关于手机进水屏幕有线条如何办?下面内容希望能帮助到你,我们来一起看看吧!手机进水屏幕有线条如何办检查条纹是处在屏..

    2025-06-27
  • 探索百科

    飞机排泄物 一般如何处理 真是“空投”吗,飞机厕所

    粪便的处理飞机有专门处理粪便的设备,粪便经过逐渐分解之后,都被留在了特定的罐子里,之后等待飞机降落,地勤人员会专门负责清理这些罐子,确保飞机处理粪便的设备能够正常运行。要知道之前很多人认为天上会直接掉下粪便,这根本是一种无稽之谈,哪怕将粪便直接排放到高空中,也会进一步分解成水气,根本不会从天上掉下来..

    2025-06-27
  • 世界最大

    世界上最大的鱼正在悄然无声地消失

    在吉布提,渔民的灯光吸引了浮游生物和一条幼年鲸鲨。图源:TOM PESCHAK, NATIONAL GEOGRAPHIC IMAGE COLLECTION撰文:Melissa Hobson世界上最稀有的鲸类遭到船舶撞击的问题已经引起了全球关注。但直到最近科学家才意识到,这些船只可能同样在杀死鲸鲨,这个濒危物种是世界上最大的鱼类。在一项新的研究中,超过75位研究者..

    2025-06-24
  • 美食百科

    教大家如何做貌美又好吃的花卷

    #6月吃什么# 自从结婚后我家几乎没有在外面买过面食,尤其是有了宝贝之后,更不在外面买了,因为只有自己做的才会更加合乎她们的口味,并且每次不论是蒸馒头啊,还是花卷,我一般都不用水,而是用牛奶或者果蔬汁代替,造型也是会做的漂亮一些,这样不仅好吃,营养丰富,孩子看了之后也会有想吃的欲望。所以今天留给大家介绍..

    2025-06-24

微信分享

微信分享二维码

扫描二维码分享到微信或朋友圈

链接已复制