首页 > 公众号研报 > 青云科技推出AI算力调度平台 | 国君计算机

青云科技推出AI算力调度平台 | 国君计算机

作者:微信公众号【计算机文艺复兴】/ 发布时间:2023-09-25 / 悟空智库整理
(以下内容从国泰君安《青云科技推出AI算力调度平台 | 国君计算机》研报附件原文摘录)
  面向人工智能行业AIGC大模型科研计算、企业级大数据及人工智能算力中心,当下对于算力提出了更高的需求。尤其是面对单一的算力数据中心已经难以满足各行各业日益增长的算力需求,所以,面向各行各业需要更多的智算中心、超算中心和通用云计算服务,为全社会提供算力服务。 在当前比较火热的AI行业,算力服务面临了一些挑战,尤其是在用户对多算力要求、多存储要求、整个计算网络的要求以及就近服务。青云科技可以提供多元的资源管理,统一服务调度平台来解决多元资源管理混乱的情况。 第二种是在AI行业,尤其是在AI高速网络建设这一边。将计算和存储设备使用高速网络进行互联、使用通用网络来进行应用的服务发布这一块,青云科技也通过平台来解决多区域的高速组网问题。 面向AI基础设施行业,算法研发工程师在面临硬件服务器对存储服务器进行环境搭建将浪费大量的时间这一面,青云也通过AI智算服务,通过训练平台和推理模型平台将环境搭建简洁化,一键部署。 同时,青云将多业务整合起来,在AI基础设施和通用算力服务这一块,结合传统云计算,面向超级计算和智算,为更多业务和客户提供更全景的算力服务产品。青云还对算力的运营中心、管理部门提供更多的运营和运维管理服务。 总的来说,青云科技提供AI算力调度平台主要基于以下四个方面。第一是全平台适配市面上所有的计算芯片、各行各业新产出的信创芯片以及GPU的相关显卡和网卡。同时,对以上适配的资源进行统一的管理、分发、监控和调度,整体上从用户申请到最后释放提供全生命周期的在线管理功能。 面向管理端和用户端,能够统一的使用一个平台让用户和管理员能够完整的操作AI基础设施和AI算力服务。 在面向智算领域,青云将更多的业务进行业务化和场景化。面向AIGC这个行业,大语言模型训练、大语言模型推理和基于文本式生成的一些负载均衡服务,青云也能够通过AI算力调度平台为客户提供便捷的操作,一键部署、一键扩容和一键负载均衡。在AI负载均衡这一方面上,尤其是在网络、工网和计算基础设施上,也能够达到秒级交付、秒级扩容。 基于以上三种情况,第一,青云适配了大量的芯片和信创芯片,第二,进行统一的管理,第三,做了更多面向业务场景化的应用程序。青云支撑各行各业的计算,包括高性能计算、人工智能计算和通用计算模式,为用户打造一个自主创新的、功能完善的统一用户管理、分发与运营平台。 整体AI调度产品的全栈产品架构主要包含四个方面。第一个是多区域产品都能够统一融合起来,以一个global的服务面向全社会提供算力服务。具体来说,平台会纳管底层的基础设施,通过数据逻辑层将基础设施逻辑化、业务化,然后通过具体产品,包括GPU主机、裸金属、虚拟化、共享的形式等等,以AI算力集群容器推理服务和模型市场等相关业务,为全行业的客户提供算力调度和应用场景的产品。 面向以上的产品架构,AI算力调度平台总共有九大关键能力,也是青云科技多年发展的特点。第一个是多区域、多重的资源整合。面向于尤其是川西或者说西北地区的算力服务多元化,再为东部地区科研单位提供算力服务时,可以将多区的资源统一纳管进来。青云和电信运营商合作,建设有效的高速网络。 第二是混合组网。青云将不同的资源,包括不同的AI算力用来做AIGC、视频解码、药物研发,通过不同的业务将不同的数据和不同的计算资源和存储资源进行混合组网,建设面向真正业务场景的资源产品。 同时,青云将提供一些容器推理服务,都是在线化的一键部署K8S平台,大大减少了运维和运营的一些相关操作。在多区域多种的情况下要有合理的、便捷的分布式调度平台。青云将分布式调度、资源配置亲和性和非亲和性,对所有的计算存储和网络资源都可以进行一个资源调度配置。 面向一些具体的研发人员、算法开发人员或者说基础设施运维人员提供大量的模型仓库、算法开发等等。 总的来说,在多区域、多业务整合这一方面上,青云的总体架构以一朵云的形式,面向全社会统一提供AI调度算力平台。用户可以使用这一个平台来得到所有的数据、所有的计算资源,并且能够立即进行计算业务。 合规声明:本文节选自已经入库的正式研究报告,如需PDF原文请后台留言。 - end - 欢迎加入产业交流群! 欢迎所有对计算机产业研究和投资感兴趣的盆友(包括云计算、网络安全、医疗IT、金融科技、人工智能、自动驾驶等)后台留言加入我们的产业交流群。我们的目标是建立系统的计算机产业研究框架,提高整个A股的IT行业研究水平,减少韭菜数量,普度众生。 法律声明 本公众订阅号(计算机文艺复兴)为国泰君安证券研究所计算机研究团队依法设立并运营的微信公众订阅号。本团队负责人李沐华具备证券投资咨询(分析师)执业资格,资格证书编号为S0880519080009。本订阅号不是国泰君安证券研究报告发布平台。本订阅号所载内容均来自于国泰君安证券研究所已正式发布的研究报告,如需了解详细的证券研究信息,请具体参见国泰君安证券研究所发布的完整报告。本订阅号推送的信息仅限完整报告发布当日有效,发布日后推送的信息受限于相关因素的更新而不再准确或者失效的,本订阅号不承担更新推送信息或另行通知义务,后续更新信息以国泰君安证券研究所正式发布的研究报告为准。本订阅号所载内容仅面向国泰君安证券研究服务签约客户。因本资料暂时无法设置访问限制,根据《证券期货投资者适当性管理办法》的要求,若您并非国泰君安证券研究服务签约客户,为控制投资风险,还请取消关注,请勿订阅、接收或使用本订阅号中的任何信息。如有不便,敬请谅解。市场有风险,投资需谨慎。在任何情况下,本订阅号中信息或所表述的意见均不构成对任何人的投资建议。在决定投资前,如有需要,投资者务必向专业人士咨询并谨慎决策。国泰君安证券及本订阅号运营团队不对任何人因使用本订阅号所载任何内容所引致的任何损失负任何责任。本订阅号所载内容版权仅为国泰君安证券所有。任何机构和个人未经书面许可不得以任何形式翻版、复制、转载、刊登、发表、篡改或者引用,如因侵权行为给国泰君安证券研究所造成任何直接或间接的损失,国泰君安证券研究所保留追究一切法律责任的权利。

大部分微信公众号研报本站已有pdf详细完整版:https://www.wkzk.com/report/(可搜索研报标题关键词或机构名称查询原报告)

郑重声明:悟空智库网发布此信息的目的在于传播更多信息,与本站立场无关,不构成任何投资建议。