一图隐含未来十年生产力革命的硬机会(之一)

（以下内容从开源证券《一图隐含未来十年生产力革命的硬机会(之一)》研报附件原文摘录）
　　dandan 就在这周，台积电在ISCCC（International Solid-State Circuits Conference-全球最重要的半导体顶级学术会议）上放了上面这么一张图片。 无独有偶，前两天我在知识星球上发布了两则信息： “英伟达B100原计划发布时间为2024年年末，但由于AI 芯片需求过于火爆，已经提前至2024上半年。B100 将能够轻松应对1730 亿参数的大语言模型，比当前型号H200 的两倍还要强大。此外，B100 将采用更高级的HBM 高带宽内存规格，有望在堆叠容量和带宽上继续突破，超越现有的4.8TB/s。B100还预计将采用芯片组设计(即chiplet 设计)，这是英伟达首次在其GPU产品中采用此技术。” “台积电正与博通、英伟达等大客户联手开发硅光及CPO光学元件等新品，最快2024年下半年开始迎来大单，2025年有望迈入放量产出阶段。台积电未来有望将硅光技术导入CPU、GPU等运算制程当中，内部的电子传输线路更改为光传输，计算能力将是现有处理器的数十倍起跳。半导体业界推出的解决方案，便是将硅光子光学元件及交换器ASIC，通过CPO封装技术整合为单一模组，此方案已开始获得微软、Meta等大厂认证并采用在新一代网路架构。” 如此得到相互印证。 再回到上面这张图，接下来我们依照从左到右、从上到下的顺序依次展开分析。 考虑到读者聚焦时间不能太长，今天这篇文章只能讲讲Memory。 用在AI的Memory是HBM（高带宽memory）是DRAM的一种。 还有一种内存的存储叫SRAM，SRAM的好处是低时延、速度快，常用于逻辑芯片内部实时处理需要，但占用芯片面积极大（不单是SRAM结构的问题，还有存储和logic的工艺要统一在一个die上）。所以哪怕是高端逻辑芯片（CPU、GPU这种）大概也只有20MB的SRAM，却可能占整个芯片面积的20%以上。以比特单位论，SRAM单价是DRAM几千至一万倍。 AI芯片像英伟达H100这种，需要100GB的内存。显然用SRAM来做是不合适的，只能用DRAM。单颗DRAM又没这么大容量，所以需要数颗乃至数十颗组合才能满足要求。考虑到最后做成的芯片面积不能太大，否则一块电路板都放不下，所以必须把这些颗给叠起来。 HBM每GB的价格约为15-20美金，所以一个AI H00的HBM价值约为1500-2000美元。当然成本是没这么高的，这里面有大量的超额利润。这是普通内存没法比的。 超额利润背后是因为有难度，难度就在于叠起来后数据读写速度（所谓的带宽）还能非常高速。 这些叠起来的颗粒要并起来用，是需要电连接统一起来。同时他们还需要和逻辑SOC主芯片之间交互数据，之间需要一个logic die用来寻找地址和控制读写。 H100的内存存储中，每个bank有128bit位宽，共有8个bank，所以是1024位宽接口，且每个引脚传输速率达6.4Gbps。怎么理解这个6.4Gbps速率呢？就是一个引脚一秒钟之内就可以传完一部高清电影，这样的引脚需要1024个。 以上这么上千根数据线和地址线的组合乃至逻辑控制，这背后都是一颗颗晶体管在默默支撑。每个晶体管导通和闭合都是有延迟的，速率要保证、时间最宝贵。必须保证每根线路的skew（低电平到高电平的爬坡时间）要很小很小，要70皮秒（10的-12次方）以下。除了要保证每根skew小，还要数千根数据线的同步。 电传导速度虽然是光速，但是经不起70皮秒的高性能要求及同步要求，所以logic芯片内部、logic芯片与HBM颗粒、HBM颗粒之间的走线是十分讲究的，不单要短、还要相对整齐、还要电路走线顺畅。 HBM颗粒之间，HBM颗粒与logic之间是通过TSV（硅通孔）工艺给电连接起来的。无数根电线路都是跑在6.4Gbps（BitPerSecond）上，这个速率是非常高的。我们用的5G手机大概也就是3G-5G频段上通过无线电传播（第一个G是代；第二个G是10的9次方赫兹）。这么多条线路，每条线路都可以对外辐射电磁波，之间相互干扰（EMI管理）都是技术难点。 数以亿计个晶体管在以每秒6.4G（10的9次方）次的频度开闭，电子在里面不停的运动、碰撞，产生了大量的热量。几十颗颗粒堆叠在一起，发热密度堪比核弹。温度一高晶体管工作还不能达到最佳状态，需要导热材料。温度高了，这里面的die、金属走线、TSV铜电镀及缓冲层、导热材料都会受热膨胀，如何保证膨胀的一致性？这都是难点。 这些DRAM memory厂商一直在努力，海力士是因为十多年持续在HBM这块的投入，所以一直技术引领、份额领先。我们看到的鲜花是背后大量的资金、汗水、人才，长时间聚合的结果。因而海力士大概占全球70%份额，三星大概占20%，美光大概5%。 2 月 23 日消息，SK 海力士管理层就 HBM 内存销售额发表声明，尽管规划 2024 年产能需超前提升，但目前产销量已达饱和状态。也就是说不是现货，是期货都预售一空了。现今，SK 海力士已备货至今年底，且正积极筹备 2025 年订单。公司预期明年将持续维持市场领先地位。 从HBM1一路经过HBM2、HBM2E、HBM3、HBM3E（英伟达2024年新产品B100及AMD IM300采用）乃至未来走到HBM4，主要迭代升级的就是堆叠、通孔、焊接的工艺和填充材料。如下图所示： 因为要控制厚度，所以每层晶圆都是减薄过的，薄带来的问题有两个：1.刚性不够容易不平整会晃动；2.强度不够易碎。堆叠在一起焊接起来，压力不能大、温度不能高、还要对的准。这就是工艺的难点。即下图中：①Chip warpage control 另外一个key tech就是②Gapfill-MUF Material。 这就是填料，EMI、导热、膨胀系数各方面都要求极高，还要求low-alpha不能影响存储单元粒子反转。 这种材料是低CUT点low-alpha高端球硅为主体，配少部分的low-alpha球硅。联瑞新材产品就是球铝、球硅这种填料，100%产品都是填料。公司从前身1984年成立到现在，持续专注耕耘在这个细分赛道四十年。 经过40多年积累和管理层锐意进取、持续研发投入，联瑞新材逐步打破日本高端半导体材料的垄断，已经批量供货给海力士、三星。不仅仅是三星、海力士，全球高端半导体封装厂商基本上都和联瑞新材有供货关系。 随着科技进步，这类高端材料不仅是芯片需要，电路板内部也需要。比如英伟达AI就需要特殊要求的覆铜板，这种高端覆铜板90%由台湾厂商台光电子提供，由此台光电子2023年股价也实现了一年五倍。这类高端覆铜板之所以高端特殊，就是因为这些高端填料的加入。 除了HBM芯片之外，2023年下半年联瑞新材也开始正式给台光供货。同时，2024年生益科技也新进入英伟达供应商行业供货覆铜板。生益科技更是联瑞新材重要合作伙伴，不单是客户还是重要股东。AI芯片和电路板双重需要的关键材料，联瑞新材都在2023年储备完成，未来成长可期。这就是长期看好联瑞新材的理由。 总结Memory这块，未来值得重视的几个方向： HBM厂商，海力士、三星和美光； TSV设备厂商，半导体后端光刻设备、LDI设备厂商、刻蚀、电镀、清洗设备商 TSV封装生产商 封装材料及填料厂商 由于公众号文章只能一天一发，我在知识星球上会有一些自己平时研究过程中发现以及市场上一些朋友的研究发现分享，内容会更丰富（昨天一天发了60条）、时效性也会更好。 感谢各位粉丝支持，昨天第一天试运营很快就达上限，第二天申请正式运营已经通过。粉丝热情给了我分享的正反馈，激励我把一些有价值的信息更多更快地分享出来。最重要的一点也是我最看重的一点，我的研究也能每日精进。研究发现机会，行动产生价值。

点此查看微信公众号原文全部内容>>

大部分微信公众号研报本站已有pdf详细完整版：https://www.wkzk.com/report/（可搜索研报标题关键词或机构名称查询原报告）