苏州市干将路303号创意产业园

0512-3565 6563

Jackjones@kuaidata.com

联系客服

数据中心托管服务/管理式网络

服务:

400 651 8888

微软云服务:

400 089 2448

markjune@kuaidata.com

内容分布式网络服务:

400 811 0278

云集成与合作:

cloud@kuaidata.com

公司新闻

传统IDC必须加速演进为面向大模型的AIDC

2024-05-24

       ChatGPT的横空出世加速推动人工智能时代的到来,而在中国,大模型的高歌猛进,对GPU智算、网络、存储等算力产业的每一环的都提出了新需求与新挑战。

       今年以来,包括零一万物CEO李开复在内的多位大模型创业者也在公开场合多次强调,目前国内算力差距也是重要课题。近日,李开复向包括《每日经济新闻》记者在内的媒体表示:“我们算力一直远远落后,甚至只有Google、微软的5%。”不过他也提到,未来随着推理算力每年降到过去的十分之一倍,国内大模型创业者基于更低的算力成本也能做出更好的模型。

       如何解决中国AI大模型面临的算力紧缺问题?

       随着人工智能技术的迅猛发展,传统的数据中心(IDC)正在经历一场深刻的变革。这场变革的核心便是人工智能数据中心(AIDC)。而在AIDC中,70%的投资将指向GPU和网络。长期来看,现有的网络体系难以支撑未来百万倍的加速计算。

       AI的终极目标是打造一个超越互联网的下一个全新网络信息空间(CyberNext)。通用计算为主的传统IDC迎来机遇,必须加速演进到面向大模型的AIDC,对GPU硬件供应链和软件生态做到“两手抓”。


算力紧缺AI大模型如何应战


        随着人工智能技术的飞速发展,全球科技巨头纷纷投入巨资研发AI大模型。

        AI大模型因其在自然语言处理、图像识别等领域展现出的卓越能力而备受瞩目。从OpenAI的GPT系列到谷歌的BERT模型,这些庞然大物正推动着AI技术的新革命。但背后的算力需求同样惊人,甚至呈指数级增长。

       据IDC公司预测,全球AI计算市场规模将在2026年达到346.6亿美元,年均增长率高达15.5%。生产式AI算力占比更是从2022年的4.2%预计增长至2026年的31.7%。

       面对算力紧缺的挑战,AI大模型的研发者们正在采取多种策略以应对。包括算法优化,通过精简模型结构和改进训练方法,降低对计算资源的需求。此外,分布式计算的广泛应用使得计算任务可以在更多节点上并行处理,有效提升了计算效率。

       对此,中国工程院院士、紫金山实验室荣誉主任兼首席科学家刘韵洁在上述会议上表示,大模型对算力的需求提出了更迫切的要求,2012年到2023年,整个算力需求增加了数十万倍,而且最近五年GPU的算力就增加了90倍,但整个网络的带宽才增加了10倍,这个差距现在预示着将来对整个网络带宽的能力、通讯能力提出更高的要求,因为缺口会越来越大。

       因此,在他看来,在中国,行业大模型会是最终出路。因为通用大模型受制于多重因素,而中国行业数据的完整性、系统性是最好的,尤其是在制造业,如果把这些行业数据利用好,通过行业大模型产生价值,会成为中国发展新质生产力一个非常好的途径。

全面链接算力、数据、模型 传统IDC企业如何破局?

        随着人工智能技术的迅猛发展,传统的数据中心(IDC)正在经历一场深刻的变革。这场变革的核心便是人工智能数据中心(AIDC)。

       AIDC给传统IDC带来的第一个改变就是改变交互界面。过去的交互界面是机柜,风火水电是基础。要是按照现在AIDC的定义,把所有的风火水电加在一起就是整个系统差不多30%的投资,70%是GPU和网络。如果是AIDC,吐出来的是Token和服务,面对这样的形态,70%的投资是和GtanPU、超级网络相关,这个行业可谓挑战不小。

        AI的终极目标是打造一个超越互联网的下一个全新网络信息空间(CyberNext)。通用计算为主的传统IDC迎来机遇,必须加速演进到面向大模型的AIDC,对GPU硬件(供应链)和软件生态做到“两手抓”。

       面向AI大模型时代,需要计算、网络、存储、系统协同,构建高性能算力底座,实现超大规模集群万卡协同。在此背景下,确定性网络有望解决传统互联网拥塞无序的问题,推动互联网从“尽力而为”到“确保所需”技术体系变革,能够满足工业互联网、东数西算、人工智能大模型等典型场景的网络需求。