首页 > AIGC > 人工智能的算力是什么意思-算力在人工智能浪潮中扮演什么角色? 6月17日
2023
10-15

人工智能的算力是什么意思-算力在人工智能浪潮中扮演什么角色? 6月17日

整个行业还处于比较早期的阶段,需要从更长远的角度来看待。

短期波动比较正常,通信板块估值还比较低,游戏估值比较高。 投资建议方面,中长期行情尚未结束,可考虑调整逢低策略。

大算力时代,AI产业链全景回顾

核心观点:生成式AI已取得突破。 我们梳理了生成式AI上下游带来的算力需求,并进行了交叉验证。 可见,以ChatGPT为代表的大型模型训练和推理端需要强大的算力支持

产业链共振明显,产业链体量递增顺序为:

先进工艺制造->以Chiplet、HBM为代表的2.5D/3D封装->AI芯片->板卡组装->交换机->光模块->液冷->AI服务器->IDC租赁运维。 综合来看,大模型仍处于混战阶段,应用处于渗透初期,AI领域算力需求增长确定性较高。 未来两年,算力行业将处于高度繁荣阶段。 重点推荐AI算力产业链各环节相关企业。

生成式AI取得了突破,实现了从0到1的跨越。以ChatGPT为代表的大型人工智能模型的训练和推理需要强大的算力支持。 自2022年底OpenAI正式推出ChatGPT以来,用户数量大幅增加,与ChatGPT相关的应用层出不穷。 它的通用功能帮助人类在文本和其他工作上节省了大量时间。 同时,在Transformer新架构下,多模态大模型也取得了新的突破。 文森图片、文森视频等功能不断完善,在广告、游戏等领域取得了良好进展。 生成式人工智能将成为未来几年最重要的生产力工具,并将深刻改变行业的各个方面。 围绕生成式人工智能,无论是在训练还是推理方面,对计算能力的需求预计将呈爆炸式增长。

训练和推理的AI算力需求可能呈指数级增长。

首先是培训方面。 参考OpenAI论文。 大模型训练端算力需求=训练所需token数量*6*大模型参数量。 可以看到,从GPT3.5到GPT4,模型效果越来越好,模型越来越大,训练所需的token数量和参数数量明显增加,相应的训练算力要求也随之提高。也大幅增加。 而且,与GPT4相关的公开论文相对较少。 当巨头们走向GPT4时,需要探索更多的方向,这也会给训练端算力带来更多的需求。

根据我们的测算,2023年至2027年,全球大型模型训练终端峰值算力需求的年复合增长率预计将达到78.0%。 2023年全球大型模型训练终端所需的总算力换算成A100芯片总数大概会超过200万颗。

其次是推理方面。 单个 token 的推理过程的总体计算量是大模型参数数量的 2 倍。 因此,大模型推理端每天的算力需求=大模型每天被调用的次数*每人平均查询token数*2*大模型。 参数量,仅以Google搜索引擎为例,每年被调用至少超过2万亿次。 一旦与大型模型结合,其AI算力需求将相当可观。 随着越来越多的应用与大型模型相结合,推理侧对算力的需求也有望呈现爆发式增长。 根据我们测算,2023年至2027年,全球大规模模型云推理峰值算力需求年复合增长率预计将高达113%。

算力产业链价值提升顺序如下:

先进工艺制造->以Chiplet、HBM为代表的2.5D/3D封装->AI芯片->板卡组装->交换机->光模块->液冷->AI服务器->IDC租赁运维。

先进封装,HBM:为了解决先进工艺成本快速增加和“内存墙”的问题,chiplet设计+异构先进封装成为平衡性能和成本的最佳解决方案。 台积电开发的CoWoS封装技术可以通过2.5D封装实现计算核心和HBM互连,因此NVIDIA A100和H100等AI芯片都采用了台积电CoWos封装,并分别配备40GB HBM2E和80GB HBM3内存。 全球领先的晶圆代工厂台积电,打造了2.5D/3D先进封装工艺的全球标杆。 未来几年封装市场的增长将主要受益于先进封装产能的扩张。 先进封装市场的快速增长预计将成为国内晶圆代工厂(中芯国际)和封测厂商(长电科技、通富微电子、永硅电子和深圳科技)新一轮的增长动力。

AI芯片/板卡封装:以Nvidia为代表,今年二季度开始释放业绩。 模型训练需要在智能服务器中部署大规模算力芯片,其中CPU不可或缺。 但性能提升遇到瓶颈,CPU+xPU异构方案成为大算力场景的标配。 其中,GPU在并行计算方面优势明显。 CPU+GPU已经成为目前最流行的异构计算系统。 NPU在特定场景下具有明显的性能和效率优势,在推理侧具有巨大的应用潜力。 随着大模型、多模态的发展,硬件需求有望从GPU扩展到外围编解码硬件。 在AI加速芯片市场,NVIDIA凭借先进的硬件产品性能和完整的生态建设成为市场领导者。 它在训练和推理方面都占据领先地位。 根据Liftr Insights数据,2022年NVIDIA在数据中心AI加速市场的份额将达到82%。 因此,AI芯片的需求爆发,英伟达受益最大。 其第二季度收入指引为110亿美元,数据中心芯片业务收入预计将增长近一倍。 国内厂商虽然在硬件产品性能、产业链生态结构等方面落后于前者,但正在逐步完善产品布局和生态建设,不断缩小与行业领先厂商的差距,英伟达、AMD在高端芯片供应上也受到限制。终端GPU芯片运往中国。 ,国产计算芯片迎来国产替代窗口期。

目前,国内涌现了一大批算力芯片厂商:

1)寒武纪:国内人工智能芯片领军企业,核心竞争力持续强化;

2)海光资讯:深度计算系列GPGPU提供高性能算力,升级迭代稳步推进; 3)龙芯中科:独立架构CPU行业先行者,新品频出加速增长;

4)芯原:国内半导体IP龙头,技术储备丰富,驱动增长;

5)工业富联:提供GPU芯片模组组装服务。

交换机:与传统数据中心的网络架构相比,AI数据网络架构将带来更多交换机端口的需求。 交换机有技术壁垒,中国市场稳定,华为与H3C(紫光展锐)争霸,锐捷网络呈现追赶之势。

光模块:AI算力驱动数据中心内部更大的数据流量,光模块的速度和数量大幅提升。 训练侧光模块的需求与GPU出货量强相关,推理侧光模块的需求与数据流量强相关。 随着应用的加速和渗透,未来推理所需的计算能力和流量实际上可能比训练大得多。 目前,训练端NVIDIA的A100 GPU主要对应200G光模块和400G光模块,而H100 GPU则可以对应400G或800G光模块。

根据我们的计算,训练端A100和200G光模块的比例为1:7,H100和800G光模块的比例为1:3.5。 800G光模块将于2022年底开始小批量出货,2023年需求主要来自NVIDIA和谷歌。 2023年这个时间点,市场上的下一代高速光模块都指向800G光模块。 加上AIGC带来的算力和型号竞争,我们预计北美主要云厂商和相关科技巨头预计在2024年大量采购800G。光模块也可能在2023年提前采购。中际旭创、天富通讯、新亿盛、华工科技、元杰科技、泰辰光、光讯科技、光库科技、中瓷电子、康桥科技、博创科技、联安科技、德科力、世佳光电等

光模块上游——光芯片:以AWG、PLC等为代表的无源光芯片,国内厂商市场占有率全球领先。 以EEL、VCSEL、DFB等激光器芯片、探测器芯片和调制器芯片为代表的有源光学芯片是现代光学技术的重要基石,也是有源光学器件的重要组成部分。 以元杰科技、光库科技为代表的国内光芯片厂商不断攻城略地,在多个产品细分领域取得长足进展。 国产替代加速,市场空间广阔。

液冷:用于AI大模型训练和推理的GPU服务器功率密度将大幅提升。 以NVIDIA DGX A100服务器为例,其最大单机功率可达6.5kW左右,明显高于单台普通CPU服务器500w左右的功率水平。 根据《冷板液冷服务器可靠性白皮书》数据,自然风冷数据中心单机柜密度一般仅支持8kW-10kW。 通常液冷数据中心的单机柜可以支持30kW以上的散热能力表情包设计,并且可以很好地演进。 到100kW以上,液冷在散热能力和经济性方面优势明显。

同时,“东西方”明确了PUE(数据中心总能耗/IT设备能耗)要求,枢纽节点的PUE要求更高。 同时,考虑到总体规划布局,未来在枢纽节点将增加更多新机柜,存在冷却解决方案可能无法严格满足部分区域要求的风险人工智能的算力是什么意思,以及液体的渗透率冷却解决方案预计将加速发展。 目前,在AI算力需求的推动下,浪潮信息、中兴通讯等服务器厂商开始大力布局液冷服务器产品。 在液冷解决方案加速渗透的过程中,数据中心温控厂商、液冷板厂商等有望受益,包括英维克、高蓝股份、网宿科技、曙光数码等。

AI服务器:预计今年Q2-Q3逐步释放业绩。 具体来说,一台训练AI服务器70%以上的成本由GPU组成,剩下的CPU、存储、内存等占比较小,平均价格往往达到百万元以上。 对于推理服务器来说,GPU成本约为20-30%,整体成本结构与高性能服务器类似卡通人物,价格往往在20万到30万之间。 IDC数据显示,2022年全球AI服务器市场规模为202亿美元,同比增长29.8%,占服务器市场规模的16.4%,同比增长1.2pct 。 我们认为未来三年全球AI服务器市场规模将保持快速增长,市场规模分别为395/890/1601亿美元人工智能的算力是什么意思,对应增长率为96%/125%/80%。 IDC数据显示,2022年中国AI服务器市场规模为67亿美元,同比增长24%。 我们预测,2023-2025年,结合对全球AI服务器市场规模的预测以及我国份额持续增加的假设,我国AI服务器市场规模预计将达到13.4/30.7/561亿美元,同比增长101%/128%/83%。

从竞争格局来看,考虑到AI服务器研发和投入需要更加充足的资金和技术支持,预计国内市场竞争格局将继续向上游集中,保持一超多强的竞争格局玩家。

1)浪潮信息:全球服务器行业领先厂商,其AI服务器多次位居全球市场份额第一;

2)工业工业富联:为NVIDIA提供H100等芯片组装,以及AI服务器生产; 3)Unisociety:子公司H3C AI服务器在手订单齐全,还可以提供交换机、路由器等;

4)中科曙光:高性能计算和本地化服务器领域的领导者;

5)中兴通讯:服务器业务;

6)拓维信息:华为Ascend+鲲鹏核心合作伙伴;

7)联想集团:全球领先的ICT设备公司。

IDC:在数字中国和人工智能带动云计算市场复苏的背景下,IDC作为云基础设施产业链的关键环节,也有望进入需求释放阶段。 过去两年半,受多重因素影响,云计算需求有所下降。 不过,IDC建设和供应并没有明显放缓。 2021年和2022年新增机柜数量将分别达到120万个和150万个。 因此,短期内我国存在供需不平衡的情况(核心地区供需形势较好),部分地区供电率一般。 因此,IDC 2022年业绩普遍承压。 目前,我们认为国内IDC行业有望小幅改善。 随着宏观经济好转、平台经济发展复苏以及AI等因素驱动,IDC需求有望逐步释放,2023年新增供给预计较2022年有所减少(例如三网融合)各大运营商2022年将新增IDC机柜15.6万个,2023年计划新增11.4万架)。

展望未来,电信运营商云计算业务仍将实现快速增长,百度、字节跳动等互联网公司有望在AIGC领域取得突破,这将为包括IDC在内的云基础设施带来重大新增。 根据需求,相关IDC厂商预计受益,包括润泽科技、宝信软件、奥飞数据、数据港、光环新网络等。

注:我的实时操作基本都是在群里进行的,抄作业的盈亏由我负责。 另外,进群的陌生人只有拿红包才能进群。 这是识别当前诈骗者的唯一方法。 加我微信,不要说太多。 红包认人。

有些学生每天只看文章,不点赞、不点击。 他们没有任何股票投资者的职业道德。 他们怎样才能在股市里赚钱呢?

最后编辑:
作者:nuanquewen
吉祥物设计/卡通ip设计/卡通人物设计/卡通形象设计/表情包设计