HUATECH洞见 | 从产业联合到海外布局,中国AI算力网络如何突围?
(以下内容从华泰证券《HUATECH洞见 | 从产业联合到海外布局,中国AI算力网络如何突围?》研报附件原文摘录)
文章开始 编者按:作为人工智能的“发动机”,算力基础设施成为当下投资热点。华泰证券在2024世界人工智能大会举办“论道智能新趋势”科技金融创新论坛,邀请DaoCloud首席执行官陈齐彦、基流科技首席执行官胡效赫、中科驭数高级副总裁张宇及篆芯半导体首席营销官、联合创始人康亮共同分享中国AI算力网络发展趋势。 从软件技术到硬件设备,从产业链上游到下游,嘉宾们探讨了中国AI算力网络在全球竞争中的优势与不足,以及中国企业应如何通过产业链生态协同,突破国内算力瓶颈、抓住算力出海的全新机遇。 联合产业生态突破算力瓶颈 陈齐彦 DaoCloud首席执行官 得益于各行业对AI大模型的大量应用与开发,当前中国AI算力消费呈现快速、可持续的增长趋势,但我国算力基础设施建设相对薄弱,不仅面临着对GPU等硬件设备的限购,还需要应对软件技术上的封闭。因此,解决国内算力供给不足的问题,不能单纯依靠硬件层面的投入,更重要的是联合整个产业生态,通过软硬件协调实现对算力瓶颈的突破。 在人工智能大模型构建中,服务器、GPU等硬件设备是浮于表面的冰山一角,其底层需要复杂而庞大的算力管理系统的技术支持,帮助GPU高效运行、提供更多有效算力。具体来看,算力系统包括了算力优化、算力调度、算力资源管理等功能,对于人工智能大模型的逻辑推理,尤其是在泛化场景中的推理应用具有重要的意义。 从全球视角来看,美国算力硬件架构的供应链体系已经十分完善,因此其采用了硬件“暴力美学”的算力发展路线,要求企业必须配备足够数量的GPU芯片,以满足庞大的算力需求。对中国算力产业来说,中国硬件供应链处于相对外围,但中国企业已经深入全球算力软件供应链中,并掌握了部分上游代码的话语权,国内的算力调度、算力仿真等技术正在被OpenAI等企业使用。因此,我们可以选择与美国不同的发展道路,依靠我们在算法、数据以及软件能力上的优势,提升算力的资源管理效率,实现差异化竞争。 放眼未来,我们真正需要的算力是开箱可得、真实有效的,这就需要中国算力领域的软硬件企业联合起来,拉近GPU硬件到大模型、智能体等终端应用的距离。我们希望与产业链上下游的中国企业一起,通过对算力产业生态的一体化建设,打造全球最优秀的人工智能算力管理综合解决方案,最终让中国的算力更加自由。 已关注 Follow Replay Share Like Close 观看更多 更多 退出全屏 切换到竖屏全屏退出全屏 华泰证券频道已关注 Share点赞Wow Added to Top StoriesEnter comment Share Video ,时长16:38 0/0 00:00/16:38 切换到横屏模式 继续播放 进度条,百分之0 Play 00:00 / 16:38 16:38 全屏 倍速播放中 0.5倍 0.75倍 1.0倍 1.5倍 2.0倍 超清 流畅 Your browser does not support video tags 继续观看 HUATECH洞见 | 从产业联合到海外布局,中国AI算力网络如何突围? 观看更多 转载 , HUATECH洞见 | 从产业联合到海外布局,中国AI算力网络如何突围? 华泰证券频道已关注 Share点赞Wow Added to Top StoriesEnter comment Video Details 中国算力如何参与全球竞争 胡效赫 基流科技首席执行官 我们目前专注于中大型计算集群的建设和维护,为企业提供组网、调度、优化的服务。在这一领域中,中国和海外的差距主要体现在下游芯片,受限于工艺制程以及投入规模,国内算力网络目前为万卡级别,而海外已经做到了十万卡级别,OpenAI和Microsoft的算力集群更是已经超过了十万卡,国内外存在一定差距。 但在底层的分布式系统方面,中国企业已经可以基于容错机制,长时间稳定进行千亿、甚至更大参数的模型按月迭代训练,在算力利用率、稳定性等指标上都有良好表现。此外,在30公里范围、百卡级别的跨数据中心训练中,我们也已经能够做到等效算力99%左右。综合来看,在对分布式系统的理解层面上,国内外的差异并不大。 算力出海在海外具有广阔的空间,海外产业链上下游都有足够的利润空间,可以为客户提供更优质的服务,因此从利润的角度看,出海是国内算力公司值得尝试的方向。 张宇 中科驭数高级副总裁 无论是CPU、GPU,还是前身为智能网卡的DPU,国外都已经有几十年的研究经验,而国内起步较晚,算力芯片又需要较长时间进行迭代,因此存在一定差距,这些差距主要体现在上下游产业链及工艺制程等方面。 但在摩尔定律影响下,算力芯片在3nm制程后发展逐渐放缓,这也为我们创造了追赶的条件。目前,在低时延等细分场景中,国内DPU性能已经处于世界前列,可以与AMD及英伟达等世界领先的芯片企业同台竞技。因此,在国内资金的持续支持下,我对国产DPU芯片未来的发展是乐观的。 出海是中国芯片公司发展过程中必须要走的一条路,目前中国芯片出海还在不断探索的阶段,以新加坡为代表的东南亚地区对配置中国芯片存在一定需求。未来我们可能会借助本地化机构,面向东南亚进行布局和尝试。 康亮 篆芯半导体首席营销官、联合创始人 AI算力网络与过往的移动承载网、云计算网络完全不同,在规模、时延、功耗、可靠性等方面提出了全新的要求,而算力互联芯片的性能直接决定了AI网络的优劣,算力互联芯片已经成为AI算力网络的核心。虽然英伟达已经构建了全套算力互联芯片解决方案,并垄断、私有化了相关技术,但在世界范围内还没有形成统一的技术标准,这也在倒逼全球其他公司使用新的协议与之抗衡。 国内领先的互联网公司及通信公司已经在牵头制定自己的技术协议与行业标准,实现了百花齐放、百家争鸣。中国企业也可以抓住技术标准化过程中的机遇与红利,打破行业巨头垄断的算力格局。 对于芯片出海来说,算力互联芯片更需要借助下游网络设备厂商的带动,而下游产品与客户的匹配决定了出海的方向。以日本为例,由于日本电价飙升,日本客户对于路由器芯片的功耗表现尤为重视,这就为我们提供了出海的机遇。未来,算力互联芯片出海的方向还将继续围绕下游客户的需求,通过具有针对性的服务打开新的市场。 已关注 Follow Replay Share Like Close 观看更多 更多 退出全屏 切换到竖屏全屏退出全屏 华泰证券频道已关注 Share点赞Wow Added to Top StoriesEnter comment Share Video ,时长31:14 0/0 00:00/31:14 切换到横屏模式 继续播放 进度条,百分之0 Play 00:00 / 31:14 31:14 全屏 倍速播放中 0.5倍 0.75倍 1.0倍 1.5倍 2.0倍 超清 流畅 Your browser does not support video tags 继续观看 HUATECH洞见 | 从产业联合到海外布局,中国AI算力网络如何突围? 观看更多 转载 , HUATECH洞见 | 从产业联合到海外布局,中国AI算力网络如何突围? 华泰证券频道已关注 Share点赞Wow Added to Top StoriesEnter comment Video Details 文章结束
文章开始 编者按:作为人工智能的“发动机”,算力基础设施成为当下投资热点。华泰证券在2024世界人工智能大会举办“论道智能新趋势”科技金融创新论坛,邀请DaoCloud首席执行官陈齐彦、基流科技首席执行官胡效赫、中科驭数高级副总裁张宇及篆芯半导体首席营销官、联合创始人康亮共同分享中国AI算力网络发展趋势。 从软件技术到硬件设备,从产业链上游到下游,嘉宾们探讨了中国AI算力网络在全球竞争中的优势与不足,以及中国企业应如何通过产业链生态协同,突破国内算力瓶颈、抓住算力出海的全新机遇。 联合产业生态突破算力瓶颈 陈齐彦 DaoCloud首席执行官 得益于各行业对AI大模型的大量应用与开发,当前中国AI算力消费呈现快速、可持续的增长趋势,但我国算力基础设施建设相对薄弱,不仅面临着对GPU等硬件设备的限购,还需要应对软件技术上的封闭。因此,解决国内算力供给不足的问题,不能单纯依靠硬件层面的投入,更重要的是联合整个产业生态,通过软硬件协调实现对算力瓶颈的突破。 在人工智能大模型构建中,服务器、GPU等硬件设备是浮于表面的冰山一角,其底层需要复杂而庞大的算力管理系统的技术支持,帮助GPU高效运行、提供更多有效算力。具体来看,算力系统包括了算力优化、算力调度、算力资源管理等功能,对于人工智能大模型的逻辑推理,尤其是在泛化场景中的推理应用具有重要的意义。 从全球视角来看,美国算力硬件架构的供应链体系已经十分完善,因此其采用了硬件“暴力美学”的算力发展路线,要求企业必须配备足够数量的GPU芯片,以满足庞大的算力需求。对中国算力产业来说,中国硬件供应链处于相对外围,但中国企业已经深入全球算力软件供应链中,并掌握了部分上游代码的话语权,国内的算力调度、算力仿真等技术正在被OpenAI等企业使用。因此,我们可以选择与美国不同的发展道路,依靠我们在算法、数据以及软件能力上的优势,提升算力的资源管理效率,实现差异化竞争。 放眼未来,我们真正需要的算力是开箱可得、真实有效的,这就需要中国算力领域的软硬件企业联合起来,拉近GPU硬件到大模型、智能体等终端应用的距离。我们希望与产业链上下游的中国企业一起,通过对算力产业生态的一体化建设,打造全球最优秀的人工智能算力管理综合解决方案,最终让中国的算力更加自由。 已关注 Follow Replay Share Like Close 观看更多 更多 退出全屏 切换到竖屏全屏退出全屏 华泰证券频道已关注 Share点赞Wow Added to Top StoriesEnter comment Share Video ,时长16:38 0/0 00:00/16:38 切换到横屏模式 继续播放 进度条,百分之0 Play 00:00 / 16:38 16:38 全屏 倍速播放中 0.5倍 0.75倍 1.0倍 1.5倍 2.0倍 超清 流畅 Your browser does not support video tags 继续观看 HUATECH洞见 | 从产业联合到海外布局,中国AI算力网络如何突围? 观看更多 转载 , HUATECH洞见 | 从产业联合到海外布局,中国AI算力网络如何突围? 华泰证券频道已关注 Share点赞Wow Added to Top StoriesEnter comment Video Details 中国算力如何参与全球竞争 胡效赫 基流科技首席执行官 我们目前专注于中大型计算集群的建设和维护,为企业提供组网、调度、优化的服务。在这一领域中,中国和海外的差距主要体现在下游芯片,受限于工艺制程以及投入规模,国内算力网络目前为万卡级别,而海外已经做到了十万卡级别,OpenAI和Microsoft的算力集群更是已经超过了十万卡,国内外存在一定差距。 但在底层的分布式系统方面,中国企业已经可以基于容错机制,长时间稳定进行千亿、甚至更大参数的模型按月迭代训练,在算力利用率、稳定性等指标上都有良好表现。此外,在30公里范围、百卡级别的跨数据中心训练中,我们也已经能够做到等效算力99%左右。综合来看,在对分布式系统的理解层面上,国内外的差异并不大。 算力出海在海外具有广阔的空间,海外产业链上下游都有足够的利润空间,可以为客户提供更优质的服务,因此从利润的角度看,出海是国内算力公司值得尝试的方向。 张宇 中科驭数高级副总裁 无论是CPU、GPU,还是前身为智能网卡的DPU,国外都已经有几十年的研究经验,而国内起步较晚,算力芯片又需要较长时间进行迭代,因此存在一定差距,这些差距主要体现在上下游产业链及工艺制程等方面。 但在摩尔定律影响下,算力芯片在3nm制程后发展逐渐放缓,这也为我们创造了追赶的条件。目前,在低时延等细分场景中,国内DPU性能已经处于世界前列,可以与AMD及英伟达等世界领先的芯片企业同台竞技。因此,在国内资金的持续支持下,我对国产DPU芯片未来的发展是乐观的。 出海是中国芯片公司发展过程中必须要走的一条路,目前中国芯片出海还在不断探索的阶段,以新加坡为代表的东南亚地区对配置中国芯片存在一定需求。未来我们可能会借助本地化机构,面向东南亚进行布局和尝试。 康亮 篆芯半导体首席营销官、联合创始人 AI算力网络与过往的移动承载网、云计算网络完全不同,在规模、时延、功耗、可靠性等方面提出了全新的要求,而算力互联芯片的性能直接决定了AI网络的优劣,算力互联芯片已经成为AI算力网络的核心。虽然英伟达已经构建了全套算力互联芯片解决方案,并垄断、私有化了相关技术,但在世界范围内还没有形成统一的技术标准,这也在倒逼全球其他公司使用新的协议与之抗衡。 国内领先的互联网公司及通信公司已经在牵头制定自己的技术协议与行业标准,实现了百花齐放、百家争鸣。中国企业也可以抓住技术标准化过程中的机遇与红利,打破行业巨头垄断的算力格局。 对于芯片出海来说,算力互联芯片更需要借助下游网络设备厂商的带动,而下游产品与客户的匹配决定了出海的方向。以日本为例,由于日本电价飙升,日本客户对于路由器芯片的功耗表现尤为重视,这就为我们提供了出海的机遇。未来,算力互联芯片出海的方向还将继续围绕下游客户的需求,通过具有针对性的服务打开新的市场。 已关注 Follow Replay Share Like Close 观看更多 更多 退出全屏 切换到竖屏全屏退出全屏 华泰证券频道已关注 Share点赞Wow Added to Top StoriesEnter comment Share Video ,时长31:14 0/0 00:00/31:14 切换到横屏模式 继续播放 进度条,百分之0 Play 00:00 / 31:14 31:14 全屏 倍速播放中 0.5倍 0.75倍 1.0倍 1.5倍 2.0倍 超清 流畅 Your browser does not support video tags 继续观看 HUATECH洞见 | 从产业联合到海外布局,中国AI算力网络如何突围? 观看更多 转载 , HUATECH洞见 | 从产业联合到海外布局,中国AI算力网络如何突围? 华泰证券频道已关注 Share点赞Wow Added to Top StoriesEnter comment Video Details 文章结束
大部分微信公众号研报本站已有pdf详细完整版:https://www.wkzk.com/report/(可搜索研报标题关键词或机构名称查询原报告)
郑重声明:悟空智库网发布此信息的目的在于传播更多信息,与本站立场无关,不构成任何投资建议。