兴证通信英伟达GTC点评-20240319
展开
兴证通信英伟达GTC点评-20240319
发布GB200（主推）：1）#配比上采用1CPU+2GPU，单个机柜内部可容纳72个GPU；2）互联模式采用NVSWTICH（NVSWITCH：采用台积电4nm工艺，72端口（双向200G serdes），#NV LINK 带宽达到1.8TB），GPU和NVSWITCH之间采用铜互联，同时搭配IB交换机进行网路互联；3）针对单颗GPU，采用192GB HBM3e，8TB内存带宽
配比关系：若采用1.6t光模块，#预计比例提升1：9。单卡双向传输带宽达到1800GB，单向对应900GB，若采用1.6t光模块传输+2层网络结构，则对应光模块使用数量为(900GB*8/1600GB)*2=9个，考虑到英伟达当前主推GB200，预计有望带动1.6t光模块加速放量，重点推荐＃中际旭创、新易盛、天孚通信
相较于GH200，GB200性能全面提升，尤其在#推理端性能提升明显，对于GPT万亿模型参数，在FP4计算格式上，GB200的效果是H100的约30X。目前GB200的生态合作伙伴不断扩大，包括AWS、谷歌、微软、甲骨文等，#相较于GH200，GB200有望大幅放量，＃推动光模块配比关系大幅提升！
铜互联形式：NVSWITCH集成在服务器内部，通过采用铜互联，成本节约6倍，＃预计大概率使用背板连接方式，或采用传统DAC互联形式，背板连接环节重点推荐＃鼎通科技（海外高速背板连接器组件核心供应商）、华丰科技（国内高速背板连接器龙头），DAC环节可关注＃兆龙互连
GB200可采用新型高效液冷机架规模架构，有望推动液冷在AI服务器市场渗透率提升，重点推荐＃英维克等厂商。
发布GB200（主推）：1）#配比上采用1CPU+2GPU，单个机柜内部可容纳72个GPU；2）互联模式采用NVSWTICH（NVSWITCH：采用台积电4nm工艺，72端口（双向200G serdes），#NV LINK 带宽达到1.8TB），GPU和NVSWITCH之间采用铜互联，同时搭配IB交换机进行网路互联；3）针对单颗GPU，采用192GB HBM3e，8TB内存带宽
配比关系：若采用1.6t光模块，#预计比例提升1：9。单卡双向传输带宽达到1800GB，单向对应900GB，若采用1.6t光模块传输+2层网络结构，则对应光模块使用数量为(900GB*8/1600GB)*2=9个，考虑到英伟达当前主推GB200，预计有望带动1.6t光模块加速放量，重点推荐＃中际旭创、新易盛、天孚通信
相较于GH200，GB200性能全面提升，尤其在#推理端性能提升明显，对于GPT万亿模型参数，在FP4计算格式上，GB200的效果是H100的约30X。目前GB200的生态合作伙伴不断扩大，包括AWS、谷歌、微软、甲骨文等，#相较于GH200，GB200有望大幅放量，＃推动光模块配比关系大幅提升！
铜互联形式：NVSWITCH集成在服务器内部，通过采用铜互联，成本节约6倍，＃预计大概率使用背板连接方式，或采用传统DAC互联形式，背板连接环节重点推荐＃鼎通科技（海外高速背板连接器组件核心供应商）、华丰科技（国内高速背板连接器龙头），DAC环节可关注＃兆龙互连
GB200可采用新型高效液冷机架规模架构，有望推动液冷在AI服务器市场渗透率提升，重点推荐＃英维克等厂商。
话题与分类：
主题股票：
主题概念：
声明：遵守相关法律法规，所发内容承担法律责任，倡导理性交流，远离非法证券活动，共建和谐交流环境！
