服务粉丝

我们一直在努力
当前位置:首页 > 财经 >

【国信计算机】人工智能行业点评:OpenAI访问限流,GPT-4算力测算

日期: 来源:火星计算机收集编辑:国信计算机团队

事项:

OpenAI对于Plus付费用户的GPT-4 访问连续下降阈值,GPT-4 访问限制由第一天的150 msg/ 4 hr 到100 msg/4 hr到50msg/3 hr到最近的25msg/3hr。在较短的时间内GPT-4下降了4次访问阈值。

评论:

  • ChatGPT-4的访问被持续限流

OpenAI对于Plus付费用户的GPT-4 访问连续下降阈值,GPT-4 访问限制由第一天的150 msg/ 4 hr 到100 msg/4 hr到50msg/3 hr到最近的25msg/3hr。在较短的时间内GPT-4下降了4次访问阈值。对于GPT-4的限流,OpenAI的官方回复是“开发者可能会对使用GPT-4的应用程序或者服务施加类似限制,以确保合理的资源分配,避免滥用或者控制成本。通常这类限制取决于API访问限制或者特定的订阅服务”。官方主要从控制成本的角度对GPT-4访问量进行优化,也明确了限流几乎只针对GPT-4。



  • OpenAI限流的背后是其日活和周活用户数的持续攀升

由于功能的强大以及回复率准确的高企,ChatGPT的日活和周日跃用户数量屡创新高,截止3月15日,ChatGPT日活突破5837万(3月13日的日活用户数据是4846万,两天新增接近800万日活),截止到3月9日这周,ChatGPT周度的活跃用户数量为331.81万,相比上一周活跃用户数量增加了接近25万。GPT的日活和周度活跃用户数量持续攀升,一方面是GPT4的能力更加强大,使用的体验更加流畅、回复的答案更加精准、上下文溯源的能力更加强大,使得越来越多的用户加入到体验和运用模型的队伍中来,另一方面是因为经过此前GPT-3经历后的付费用户数量越来越多。目前,OpenAI没有提价,对于Plus会员的价格还是20美金/月,但是随着用户数量的持续增加,预计限流的动作会持续。


  • OpenAI的需求持续增长将持续推高算力成本
ChatGPT终端访问,每1000 tokens需要算力成本0.02美金,3月3日OpenAI发布GPT-3.5-turbo ,对外开放API接口,宣称算力成本下降90%,1000 tokens 算力成本下降到0.002美金目前,以英伟达DGX A1OO服务器作为计算资源,采用云服务单天成本约为460美元,假设按照ChatGPT日活1300万人,每个人每天平均1000字的问题(共计173.3亿个token),假设峰值为一天均值的5倍,那么需要602万台DGX A100服务器,每天的租用成本为27.77万美金,平均到每1000个token 的推理成本为0.02美金左右(详细的测算过程欢迎参考前期报告《人工智能行业点评:ChatGPT对算力的需求究竟如何?》)。目前,GPT-3.5-turbo的算力成本下降了90%达到0.002美金每1000个tokens,我们预期模型的参数有所下调(此前测算成本按照GPT-3.5的模型参数3000亿个进行测算),此结果和用户对于new bing 不及Chat GPT 本身交互准确的感受相一致。

预计GPT-4的算力消耗量远大于GPT-3和GPT-3.5-turbo。目前根据根据GPT-4的公开数据,在8K的上下文长度下,每1000个token的提问成本为0.03美金,每1000个token的回答完成成本为0.06美金;在32K的上下文长度下,每1000个token的提问成本为0.06美金,每1000个token的回答完成成本为0.12美金。这个算力成本相比与GPT-3的成本(每1000个tokens的算力成本约为0.02美金)上升了较高(输入成本增加50%-200%,输出升本增加200%-500%),相比于GPT-3.5-turbo的成本上升更为可观,输入成本增长了14-29倍,输出成本增长了29-59倍。



预期在应用逐步增长的背景下,GPT的算力成本将进一步攀升。目前OpenAI主要的用户为C端用户,未来有望逐步扩大到B端领域,GPT-3.5-turbo下降精度降低算力成本以适应更多的应用场景是扩大生态中坚实的一步。随着GPT生态的建立、相关应用的爆发,算力的需求将持续扩大。目前,根据微软的数据,Bing的日活首次突破1亿(集成搜索+聊天功能的必应预览版自推出以来总聊天次数已超过4500万次),目前GPT的日活数量接近5800万,Bing日活1亿用户,假设NewBing4000万日活,其他应用4000万日活,合计1.4亿日活。假设普通98.5%的用户使用GPT-3.5-turbo,1.5%的用户使用GPT-4,那么98.5%普通用户的一天的算力成本在28万美金左右(对应607台DGX A100系列服务器),而1.5%付费使用GPT-4的用户的算力成本为每天840万美金(对应1.8万台DGX A100系列服务器)。

具体测算和假设如下:1)98.5%的用户使用GPT-3.5-turbo,每个人每天问1000 tokens,按照每1000 tokens需要算力成本0.002美金计算,每天的成本大概为28万美金,对应607台DGX A100系列服务器;2)1.5%付费用户使用GPT-4,每个人每天1万个tokens,按照目前GPT-4给出的最低价格(每1000个tokens 0.06美金),那么算力成本为约840万美金,对应1.8万台DGX A100系列服务器。而根据微软在2019年的公告,投资OpenAI10亿美金,投资1万个GPU建设Azure AI超算平台,可以预见的是,算力将很快被OpenAI的GPT模型消耗完,这也是OpenAI此前持续公布限流的原因之一。
随着OpenAI官方公告6.14号开出GPT-4的API接口,按照目前用户数量和问询数量的趋势,公司必须做出一些应对措施,要想保留GPT-4强大和精准的能力,就需要继续扩大算力,或者继续降低精度以控制算力成本。在全球的AI浪潮下,国内自从百度文心一言大模型推出后,也有几百家的公司成为其合作伙伴,未来阿里和腾讯的大模型也有望推出,对应的算力缺口有望持续扩大,从国内的浪潮信息、中科曙光、工业富联、海光信息、紫光股份等公司下游需求来看已经有些端倪。
  • 投资建议:

目前,全球正处于AI浪潮中,海外以OpenAI旗下的GPT大模型为代表,越来越多的C端用户和B端厂商接入生态,在AI赋能后,产品和应用端都出现了较为明显的积极变化。微软已经率先将GPT-4接入了Office等全系列办公场景,预期后续会有更多的现象级应用出现,国内市场也受益于百度文心一言大模型的发布,未来有望在应用端迎来百花齐放。随着应用端逐渐丰富,对算力的需求提出了更多的需求,在此趋势下,预计未来的算力需求缺口将会持续扩大,建议重点关注人工智能算力领域的相关标的,如海光信息等。
  • 风险提示:

模型假设不合理对测算结果造成偏差,ChatGPT商业化落地不及预期,算力芯片进展不及预期。


相关研究报告:

  • 《人工智能行业点评-Microsoft 365 Copilot发布,国内外AI应用有望加速落地》 ——2023-03-19

  • 《国央企ERP专题报告:数字化转型下的新机遇》 ——2023-03-10

  • 《计算机行业2023年3月投资策略暨年报前瞻-2022行业业绩承压,关注ChatGPT引发的AI+应用表现》 ——2023-03-06

  • 《人工智能行业点评-ChatGPT开放API接口,应用侧有望迎来全面爆发》 ——2023-03-05

  • 《人工智能行业点评-2017年以来人工智能行情复盘》 ——2023-02-17


分析师声明

作者保证报告所采用的数据均来自合规渠道;分析逻辑基于作者的职业理解,通过合理判断并得出结论,力求独立、客观、公正,结论不受任何第三方的授意或影响;作者在过去、现在或未来未就其研究报告所提供的具体建议或所表述的意见直接或间接收取任何报酬,特此声明。


国信证券投资评级


重要声明

本报告由国信证券股份有限公司(已具备中国证监会许可的证券投资咨询业务资格)制作;报告版权归国信证券股份有限公司(以下简称“我公司”)所有。本报告仅供我公司客户使用,本公司不会因接收人收到本报告而视其为客户。未经书面许可,任何机构和个人不得以任何形式使用、复制或传播。任何有关本报告的摘要或节选都不代表本报告正式完整的观点,一切须以我公司向客户发布的本报告完整版本为准。

本报告基于已公开的资料或信息撰写,但我公司不保证该资料及信息的完整性、准确性。本报告所载的信息、资料、建议及推测仅反映我公司于本报告公开发布当日的判断,在不同时期,我公司可能撰写并发布与本报告所载资料、建议及推测不一致的报告。我公司不保证本报告所含信息及资料处于最新状态;我公司可能随时补充、更新和修订有关信息及资料,投资者应当自行关注相关更新和修订内容。我公司或关联机构可能会持有本报告中所提到的公司所发行的证券并进行交易,还可能为这些公司提供或争取提供投资银行、财务顾问或金融产品等相关服务。本公司的资产管理部门、自营部门以及其他投资业务部门可能独立做出与本报告中意见或建议不一致的投资决策。

本报告仅供参考之用,不构成出售或购买证券或其他投资标的要约或邀请。在任何情况下,本报告中的信息和意见均不构成对任何个人的投资建议。任何形式的分享证券投资收益或者分担证券投资损失的书面或口头承诺均为无效。投资者应结合自己的投资目标和财务状况自行判断是否采用本报告所载内容和信息并自行承担风险,我公司及雇员对投资者使用本报告及其内容而造成的一切后果不承担任何法律责任。


证券投资咨询业务的说明

本公司具备中国证监会核准的证券投资咨询业务资格。证券投资咨询,是指从事证券投资咨询业务的机构及其投资咨询人员以下列形式为证券投资人或者客户提供证券投资分析、预测或者建议等直接或者间接有偿咨询服务的活动:接受投资人或者客户委托,提供证券投资咨询服务;举办有关证券投资咨询的讲座、报告会、分析会等;在报刊上发表证券投资咨询的文章、评论、报告,以及通过电台、电视台等公众传播媒体提供证券投资咨询服务;通过电话、传真、电脑网络等电信设备系统,提供证券投资咨询服务;中国证监会认定的其他形式。

发布证券研究报告是证券投资咨询业务的一种基本形式,指证券公司、证券投资咨询机构对证券及证券相关产品的价值、市场走势或者相关影响因素进行分析,形成证券估值、投资评级等投资分析意见,制作证券研究报告,并向客户发布的行为。





国信证券计算机团队介绍


擅长把握技术驱动型板块机会,注重海外映射投资机会;自上而下和自下而上相结合,“个股推荐”为主,服务次之。一二级联动,产业大局观较敏感。注重团队研究成果的标准化输出,把数字化引入研究本身。


熊 莉

计算机行业首席分析师

分析师资格编码:S0980519030002

西南财经大学经济学硕士,负责计算机行业研究,8年从业经验;金牛奖、金麒麟、水晶球均有斩获;统筹行业研究方向,深度覆盖海内外云计算、工业数字化板块。


库宏垚

计算机行业分析师

分析师资格编码:S0980520010001

复旦大学金融硕士,两年信息安全实业经验,四年行业研究经验,重点覆盖云计算、信息安全、轨交信息化。


朱 松

计算机行业分析师

分析师资格编码:S0980520070001

上海交通大学管理学硕士,重点覆盖互联网金融、医疗信息化、遥感IT,于2020年7月加入国信证券。


张伦可

计算机行业分析师

分析师资格编码:S0980521120004

加州大学欧文分校经济学学士、香港科技大学金融学硕士,重点覆盖汽车智能化、工业数字化、SaaS和海外科技,于2021年2月加入国信证券。


黄浩峻

        联系人


加州大学伯克利分校工学硕士,清华大学工学硕士,重点覆盖智能驾驶、工业软件、数据库等板块。


国信证券经济研究所


深圳

深圳市福田区福华一路125号国信金融大厦36层

邮编:518046

总机:0755-82130833

上海

上海浦东民生路1199弄证大五道口广场1号楼12楼

邮编:200135

北京

北京西城区金融大街兴盛街6号国信证券9层

邮编:100032

相关阅读

  • 预见2023:《2023年中国HJT电池行业全景图谱》

  • 导读:行业主要上市公司:迈为股份(300751)、金辰股份(603396)、通威股份(600438)、晶澳科技(002459)、晶科能源(688223)、隆基股份(601012)等。本文核心数据:HJT电池市场市占率
  • 暴利的医美,鼓了谁的腰包?

  • 最近的 315 又曝光了几起黑心的医美机构。为了谋取暴利,一大批打着化妆品名义的劣质美容针剂流向市场,公然在展会上售卖和注射,导致无数人面部毁容,甚至丧命!看着触目惊心!医美行
  • 刚刚,外交部重要发布!

  • 外交部网站今天(20日)发布《2022年美国民主情况》报告,通过大量列举事实和媒体专家看法,系统梳理和呈现过去一年美国民主的真实表现,揭示美国国内民主乱象及其在全世界兜售和强加
  • 安全日报(2023.03.20)

  • 赶紧点击上方话题进行订阅吧!报告编号:B6-2023-032099报告来源:360CERT报告作者:360CERT更新日期:2023-03-201 Security Incident|安全事件MKS Instruments因勒索软件攻击被起诉h
  • 党的二十大报告学习辅导(100)

  • 为深入学习贯彻党的二十大精神,中央有关方面组织编写了《党的二十大报告学习辅导百问》一书。该书紧密围绕党的二十大报告提出的新理念新战略新论断,对100多个问题进行了深入
  • 230317 小鹏汽车 交流要点

  • 22年底进行战略复盘和调整,通过大刀阔斧的组织结构优化,小鹏汽车即将迎来转折点。更加注重组织、规划、营销、成本能力的全面提升,成为中国甚至全球领先企业。总裁王凤英已全面

热门文章

  • “复活”半年后 京东拍拍二手杀入公益事业

  • 京东拍拍二手“复活”半年后,杀入公益事业,试图让企业捐的赠品、家庭闲置品变成实实在在的“爱心”。 把“闲置品”变爱心 6月12日,“益心一益·守护梦想每一步”2018年四

最新文章

  • 瑞信间谍命案

  • 作者:贝姐 编辑:老胡来源:雪贝财经(ID:snowfinance666)代号为T的男子是在9月份的最后一个星期二吞枪自杀的。他是一名背景深厚的企业情报人员,离奇自杀前的最后一单生意是受雇
  • 应急安全体验,“雷锋一号”在行动

  • 为进一步强化广大师生的消防安全意识,提高师生消防自救能力以及应对突发事件的水平,3月15日下午,娄底市第四中学100多名师生积极响应学校政教处“防风险、保安全”的号召,在政教
  • 刘元春:为什么今年经济增长目标设定到5%左右?

  • 作者:刘元春来源:网易财经智库(ID:lanxueyanjiu)60s要点速读1、很多地方在扩大内需的过程中,是严重违背高质量发展的要求,违背供给侧结构性改革的要求,是通过走老路来进行扩内需,扩
  • 不愧是武大研究生,飒!

  • 长泡图书馆、久坐实验室白天析数据、深夜看文献这是你印象中的研究生生活?NONONO!武大研究生也可以精彩纷呈!快和珞珞珈珈一起走进第九届研究生集体舞大赛的现场!动感青春,跳起来
  • 顶端夜读 | 孔乙己的长衫,要不要脱下?

  • “孔乙己的长衫”这个梗在网络上已发酵多日,连央视都下场解读孔乙己现象,至今仍具备极高的话题度。不禁想问:如今的年轻人是怎么了,竟和鲁迅笔下一百多年前迂腐的孔乙己产生共鸣