ChatGPT背后:算力的红与黑

今年年初,ChatGPT横空出世,以一己之力带火AI大模型概念。当下,国内大模型市场发展火热,大模型正在逐渐从基础通用领域向垂直行业领域渗透,为垂直行业提供更落地、更实用的效能增值。受益于大模型的市场增长,作为支撑底座的算力产业也正在迎来快速发展的窗口期。

任何产业在快速发展期,都会迎来机遇和挑战。现阶段,国内算力正在进入“红与黑”的博弈。一面是红红火火的算力建设,另一面却有几朵乌云笼罩在产业上方。

近日,2023中国算力发展研讨会在中科院计算所举办。会议规格盛况空前,集结了中国科学院院士陈润生、钱德沛,中国工程院院士郑纬民、廖湘科,还有中国信通院院长、党委副书记余晓晖,国家信息中心信息化和产业发展部主任单志广,中科院计算所研究员*泉等各路业内大咖。多位权威专家与学者围绕“ChatGPT”下算力的机遇与挑战展开深入探讨,以期望找到算力产业发展“红与黑”之间的平衡点、破局点。

红:算力建设的红火局面

大模型背后需要多少算力?以GPT-3.5为例,总算力消耗约3640PF-days,这意味着以每秒一千万亿次计算的速度,还需要运行3640个整日。而这仅仅指的是ChatGPT在训练阶段消耗的算力。

这仅是一个大模型需要的算力。据中国科学技术信息研究所《中国人工智能大模型地图研究报告》不完全统计,国内10亿级参数规模以上大模型已发布79个。这些大模型催生海量算力需求,让国内算力基础设施建设再提速。而我国算力基础设施的建设速度已位于世界前列,目前我国算力年增长率近30%,算力总规模达到180EFLOPS,居全球第二。

一方面是大模型不断增长的算力需求,一方面是计算中心不断扩张也无法满足的所有需求的局面。既然“开源”提升算力规模速度有限,是否可以通过“节流”手段提高算力利用效率呢?在算力设施建设过程中,发现算力分散在全国各地,使用效率也存在提升空间。

在此情况下,超算互联网作为算力链接方式出现。通过把全国各地单体计算中心链接起来,形成算力资源池,加强统筹调度。以提供多元算力,让算力使用门槛更低,提高算力使用效率。

而超算互联网的更深远的意义,并不只是从国家超算中心开始集结,汇聚起企业、区域小型算力中心资源等算力基建,把他们物理连接起来这么简单。

从长远的角度来看,超算互联网的意义在于,将连接人、算力、硬件、软件应用,以互联网运营思维形成系统性整体。某种意义上,超算互联网是在做一个算力产业的生态建设,大的改变在于,从提供超算算力转变为提供超算算力服务和应用服务。通过汇聚起计算产业从硬件服务到软件应用,从算力供给到算力需求,团结所有力量,聚集各类资源。

研讨会上,专家们也对超算互联网终形态做出了预测,他们认为超算互联网将如同信息时代的互联网一样,将以服务平台形式,让不同行业用户的基于不同需求,随意取用算力资源,分享应用成果。

未来使用算力就会像逛淘宝京东一样,用户登入算力平台即可调用想要的算力,不用思考算力背后的计算架构是否兼容,不用再做繁琐的编译开发;在算力支持下做出的应用成果,也可以在平台上架,其他用户根据自身需求可*使用。

从算力基础设施建设,到超算互联网的推进,国内算力产业发展一片火热。同样,该领域同样面对着挑战。

黑:算力发展头顶的乌云黑影

算力发展背后存在的挑战,主要在于算力偏科、依赖进口、生态封闭三个问题。

近些年,对算力的火热追求,容易出现盲目扩张算力,缺乏通用统筹的现象。例如,某地区AI产业发展需要,急需补充专用算力,于是先批快建,落地的智算中心只能提供单一精度算力。可随着未来更多产业数字化深入发展,发现单一精度的算力,无法支撑更广泛的应用场景需求,这就出现了“算力偏科”问题。

对此,多位与会专家认为,解决“算力偏科”一方面需要全局统筹,以满足长远需求;另一方面,也需要以通用计算架构为底实现开放兼容,通过底层芯片全精度计算能力,让计算中心根据AI for Science、AI for industries提供不同算力,以“通专融合”解决“算力偏科”问题。

而在计算架构搭建过程中,也出现对国外芯片产品依赖严重的问题。算力基本实现单元是芯片,而早在去年,英伟达就开始断供A100、H100等先进GPU,导致国内缺货紧俏。再加之国内愈加激烈的大模型竞争,过渡追捧国外芯片产品,也让单卡价格飙升,A100高单价已达15万元;并催涨其市值已经突破万亿美元大关。如何减少对进口芯片的依赖,还需产业共同探讨解决。

另外,在计算生态商业化发展中,也需要避免生态建设走向封闭。在以市场需求为导向的竞争中,有些产业链生态圈看似开放但实则偏向封闭,因业务边界不清晰,合作伙伴依附生存时,常出现下游方技术和客户被上游方被吃干抹净的“黑寡妇”行为。如*生态发展过程中杜绝黑寡妇行径,让产业链生态走向开放协作,需要产业协同构建整体性方案,团结产业联盟合力,杜绝恶性竞争,携手良性发展。

以大模型为代表的人工智能技术,正像汹涌的潮水般席卷而来。时代之势,往往不能扭转,亦不可阻挡。在剖析算力的“红与黑”之后,我们要做的,就是把潮水驯化成先进生产力,为社会发展提供源源动力,立于时代的潮头,勇当发展的见证者与赋能者。

— 完 —

以上就是【ChatGPT背后:算力的红与黑】的相关内容,查看其它ai资讯请关注微咔网

服务及版权声明

根据二〇〇二年一月一日《计算机软件保护条例》第十七条规定:为了学习和研究软件内含的设计思想和原理,通过安装、显示、传输或者存储软件等方式使用软件的,可以不经软件著作权人许可,不向其支付报酬。

本网站所有发布的源码、软件和资料,均为作者提供或网友推荐收集各大资源网站整理而来,仅供功能验证和学习研究使用。

所有资源的文字介绍均为网络转载,本站不保证相关内容真实可信,同时不保证所有资源100%无错可用,也不提供相应的技术支持,介意勿下。

您必须在下载后24小时内删除,不得用于非法商业用途,不得违反国家法律,一切关于该资源的商业行为与本站无关。

如果您喜欢该程序,请支持正版源码,得到更好的正版服务。、如有侵犯你的版合法权益,请邮件与我们联系处理【投诉/建议发送至邮箱:3066548754@qq.com】,本站将立即改正并删除。

本声明为本站所有资源最终声明,所有与本声明不符的表述均以本声明内容为准。


微咔网 » ChatGPT背后:算力的红与黑
享更多特权,建议使用 QQ 登录
喜欢我嘛?喜欢就按“ctrl+D”收藏我吧!♡