< 返回上层

智算时代,算力中心服务商价值何在?

2024-01-02 18:07:28 22次

“所有智算中心的运营者都应该自问一句:我们的价值何在?”

在数字化浪潮的推动下,智算中心作为新兴的计算力基础设施,已成为产业发展的新热点。因此,作为算力基础设施的“同行”,原IDC服务商们也“顺手”做起了智算中心的运营。

但是,智算中心不仅仅是通用数据中心的升级版,它们通过高性能计算、大数据处理、以及人工智能等技术,为各行各业提供强大的数据分析和处理能力,“风火水电”已经无法概括一个智算中心运营商的核心价值。

在12月12日举办的第十八届中国IDC产业年度大典(IDCC2023)上,始智AI联合创始人、CTO黄新平详细分析了算力的演进和智算中心建设当前的挑战和机遇,并且提出了“算力中心服务商价值何在?”这一振聋发聩的问题。

始智AI联合创始人、CTO黄新平

始智AI联合创始人、CTO黄新平

算力的演变

智算中心的核心在于算力。从高性能计算到云计算,再到现在的智算中心,算力的含义和计算方式都在不断演变。当前,智算中心面临的挑战包括算力芯片的供应限制、大模型应用场景的不清晰、以及服务资源配置的不确定性。

智算中心运营商的价值在于其能够提供稳定、高效的算力服务。他们不仅需要关注硬件的投入和维护,更要在软件能力、运营管理、以及服务保障上下功夫,以满足不同客户的需求。

“现在很多智算中心,通常只是购买了GPU出租算力。”黄新平表示,只是通过租售硬件算力,这是一种非常粗放的商业模式,会受到硬件价格、用户变动等市场因素影响,抵抗市场波动能力较弱。

服务市场的挑战

“从长远角度看,很可能95%的需求都来自服务需求。”黄新平认为,未来,智算中心的主要需求将来自于服务市场。一般来说,智算中心可以为用户提供的服务包括以下几种:

基础设施服务:这一服务模式与传统的数据中心托管类似,不过需要更多的关注供电、散热以及网络链接等。

数据及应用服务:包括训练服务、推理服务,以及数据的采集、清洗、标注、转换、存储等数据处理服务。

调度服务:为大模型等智算服务的运行提供弹性的计算、存储、网络等资源,以及服务的编排、保障、监控等功能。

黄新平分析,随着所谓“百模大战”的发展和落幕,智算产业将很快迎来变化冲击,服务将取代单纯的算力租赁成为业务主流。

“大模型是‘活’的,随着数据增长和业务变化,大模型要不断进行训练,”黄新平提出,大模型的“微调”是一个长期需求,并且会在未来成为主要需求,更多的工作将集中在数据处理上。

因此,在未来,数据处理能力和推理服务讲是智算中心的两大核心功能。数据处理关乎模型训练的质量和速度,而推理服务则直接影响到业务逻辑的实时响应和执行效率。

但是,对于当前的算力中心服务商来说,无论是数据的清洗、标注、转换,还是弹性扩展、多租户资源隔离、调度等,都是新领域,需要更多的团队、技术及资金投入。

“整个服务体系,底层是计算和异构的支持,网络/RDMA,计算、存储、网络,再往上面是局部的算力调度,加上算力服务,加上服务的编排。”黄新平历数智算中心服务商将面对的服务挑战:“这些服务能力建设周期长、成本高,如何回收成本乃至盈利是个大问题。”

对于正在发展中的智算产业,或许没有人可以对这些问题给出明确回答。但无论如何,我们应该认识到,智算中心服务商的价值不仅在于提供空间、电力乃至算力,更在于如何将这股力量转化为推动产业发展的动力。只有通过不断探索和创新,适应快速变化的技术和市场需求,才能在数字经济时代中占据一席之地。

非常抱歉未能帮助到您。为了给您提供更好的服务,我们很需要您进一步的反馈信息:

在文档使用中是否遇到以下问题: