服务粉丝

我们一直在努力
当前位置:首页 > 科技 >

助推国产AI大模型研发 科技企业纷纷加码自研高性能网络布局

日期: 来源:封面新闻收集编辑:封面新闻

封面新闻记者 欧阳宏宇

在BAT、360、商汤等国内企业纷纷宣布入局AI大模型之后,面向大模型训练的高性能计算需求也迎来井喷式增长。

近日,腾讯披露自研高性能计算网络星脉高性能计算集群。据介绍,该计算集群具备3.2T通信带宽,能提升40%的GPU利用率,节省30%~60%的模型训练成本,为AI大模型带来10倍通信性能提升。基于腾讯云新一代算力集群HCC,可支持10万卡的超大计算规模。

不久前,为了降低算力支出,OpenAI开始限流。这背后是通用人工智能的火爆带动了AI大模型参数量级飙。为支撑海量数据的大规模训练,需要大量服务器通过高速网络组成算力集群。国内厂商正试图通过技术的演进对算力使用效益优化。

今年4月,阿里云也已披露了其高性能AI训练计算平台灵骏智算;上月底,联想高性能计算与人工智能主任技术顾问郝常杰也对外表示,在高性能计算上走开放融合技术路线。此外,华为云、商汤、科大讯飞在高性能计算集群上都有布局。

不过,大集群不等于大算力,相反,GPU集群越大,产生的额外通信损耗越多。比如,千亿、万亿参数规模的大模型,训练过程中通信占比最大可达50%,传统低速网络的带宽远远无法支撑。同时,传统网络协议容易导致网络拥塞、高延时和丢包,而仅0.1%的网络丢包就可能导致50%的算力损失,最终造成算力资源的严重浪费。

解决这类问题,需要面向AI大模型打造高性能计算网络。腾讯云副总裁王亚晨认为,大带宽、高利用率以及零丢包的高性能网络服务,将助力突破算力瓶颈,进一步释放AI潜能,全面提升企业大模型的训练效率。比如,腾讯云自研的端到端全栈网络运营系统将整体故障排查时间降低至分钟级,大模型训练系统的整体部署时间也得以从19天缩减至4.5天。

在专家看来,高性能计算将开启算力赋能数字经济的新篇章。中国工程院院士陈左宁指出,在先进计算产业浪潮下,实现高性能计算的可持续发展,能打造以新型算力为基础的软硬件协同的创新生态环境,助推行业赋能,以及数字产业化和产业数字化水平的不断跃升。

相关阅读

  • 听,古老尼山与现代智慧碰撞的声音

  • 仲夏的尼山,一碧千顷,微波荡漾,圣水湖面上闪耀着的光芒,映射在世界互联网大会的现场,凝结成灿烂的点点智慧,引领数字文明的前行方向。如今,人工智能正在全面融入经济社会发展的各领
  • 北京市启动大模型技术产业创新图谱梳理工作

  • 6月27日,北京市科学技术委员会、中关村科技园区管理委员会发布《关于征集北京市人工智能行业大模型应用案例和应用场景需求的通知》。为加快推动以大模型为代表的人工智能技

热门文章

  • 解码“新IT”的5个特征和3大价值

  • 党的二十大报告提出,要加快发展数字经济,促进数字经济和实体经济深度融合,打造具有国际竞争力的数字产业集群。在数字经济与实体经济深度融合的产业浪潮中,以智能设备、边缘计算
  • OPPO k1的低价高配真实么?网友:不看不知道

  • 近日OPPO一款新机OPPO k1,摒弃了高价低配,就连自家老大哥r17都要怼一下。更是放弃了请代言人,以往的OPPO手机还没出来,各路流量小生,花样美男的代言就先来了。还有线下销售人员的
  • 一招教你手机无限制成为一台新设备

  • 大家平时用手机去注册app,肯定会遇到检测设备异常,交易关闭,等问题 这个都是手机已经不止1-2次注册过此app,不断更换手机仅是一个暂时的方法,却不是长久之计,手机总归会用完
  • 从零开始如何开网店

  • 随着互联网的高速发展,人们的生活发生了翻天覆地的变化,生活节奏越来越快,网购已经成为家家户户生活中离不开的一种购物方式了。网购的发展使得越来越多的人想要涉足电商事业,那

最新文章

  • A股三大股指低开低走 电力股逆市飙升

  •   中新经纬6月28日电 28日,A股三大股指低开后震荡走低,盘中一度均跌超1%。截至午盘,上证指数跌0.52%,深证成指跌0.94%,创业板指跌0.84%。两市超3800股下跌。  来源:同花顺iFin
  • 成果丰硕!一大批项目将落地肇庆

  • 日前,鼎湖区、肇庆新区发挥资源优势培育食品饮料加工产业,通过利用永安热电联产项目进行招商,目前已成功招引8个食品饮料加工项目,计划落地肇庆新区临港产业园,利用其热电项目和
  • 【家风·文明家庭】刘维家庭: 家是讲爱的地方

  • 常德日报记者 丁时慧 整理刘维一家 (市妇联供图)“家是讲爱的地方,不是讲道理的地方。”这是“常德市文明家庭”刘维家庭的写照。他们一家四口用爱拥抱生活,谱写了一曲和谐、动
  • 我国区域协调发展呈现新局面

  • 国务院关于区域协调发展情况的报告日前提请十四届全国人大常委会第三次会议审议。报告指出,党的十八大以来,各地区立足自身比较优势,积极主动融入新发展格局,经济总量不断攀升,发