随着AI技术的蓬勃发展,基础设施市场正经历着一场显著的复苏。戴尔科技在2024财年的第四季度报告中展现了强劲的增长势头,营收达到了93亿美元,环比增长10%,这主要归功于AI优化服务器业务的强劲增长。AI服务器订单在本季度激增40%,积压订单几乎翻番至29亿美元,较前一季度的16亿美元显著提升。
戴尔科技的AI服务器业务增长,是整个基础设施市场最新动态的缩影。近年来,企业对AI应用的热情持续高涨,尤其是ChatGPT和Sora等明星产品的问世,进一步点燃了AI热度,催生了对AI基础设施的强劲需求。为了响应这一需求,戴尔科技推出了一系列创新产品和技术,助力企业拥抱AI时代。
AI应用场景日益广泛,从传统的图像识别、视频分析转向以ChatGPT为代表的认知智能,文档检索、文档生成成为主流应用,同时,多模态AI技术如Sora的兴起也展现出巨大的潜力。AI应用的繁荣背后,离不开强大基础设施的支持。大模型训练与推理对算力的需求呈指数级增长,每3至4个月算力需求增长一倍,GPU成为支撑这一需求的关键技术。
随着计算规模的扩大,AI基础设施正朝着集群化发展,万卡、十万卡级别的GPU规模数据中心已非罕见。与此相伴随的是网络通讯需求的激增,高带宽、低延迟的网络交换设施成为AI系统不可或缺的组成部分。此外,AI应用对存储系统的要求也在提高,更高效、更大规模的数据训练需求促使存储系统性能、稳定性和成本优化成为焦点。
基础设施厂商敏锐地捕捉到了这一趋势,戴尔科技等企业纷纷推出创新产品和技术,以适应AI时代的挑战。通过多元化AI计算平台的建设,加速了智能领域的快速演进。
传统数据中心架构正逐步向以CPU+GPU为代表的异构计算转型,GPU已成为服务器标准配置之一。戴尔科技推出了专门针对GPU计算优化的PowerEdge服务器,支持不同品牌GPU加速卡,以满足各类应用场景需求。
围绕AI应用的GPU加速计算解决方案,包括GPU池化、分布式训练、集群管理和资源调度等,戴尔科技能够提供全方位支持。其PowerEdge服务器设计融入了多项针对GPU的优化技术,如多矢量散热技术与电源增强设计,确保GPU在服务器内的最佳运行状态。
在AI基准测试中,戴尔PowerEdge表现出色,特别是在MLPerf Inference V3.1推理基准测试中,戴尔科技在多个赛道上取得了显著成绩,尤其是在GPU服务器产品的综合评估中名列前茅。
为了引领AI基础设施技术创新,加速AI应用的普及,戴尔科技成立了AI HPC创新实验室,专注于AI计算、并行计算的前沿技术研究与效能基准测试。超级计算机Ratter是实验室打造的GPU超算集群,戴尔科技的AI以及GPU加速的HPC解决方案(如CAE、分子动力学、生命科学等领域)均在此平台上进行了初步测试与优化。
基础设施的创新不仅限于计算领域,存储与网络领域同样迎来革新,端侧创新也在不断涌现。例如,戴尔PowerScale引入了Multipath Client driver,实现了单客户端40GB/s的峰值带宽,为高密度GPU算力服务器提供了强大的存储性能支持。OneFS文件系统与全闪存PowerScale结合,显著提升了GPU在模型预训练和微调阶段的工作效率。
在AI PC领域,戴尔科技全面拥抱AI PC趋势,新发布的AI工作站Precision 7960单台支持4块双宽GPU,最高可达4TB内存和152TB本地存储,为AI应用工作站提供了强有力的支持。
英特尔作为AI生态的重要一员,在AI PC之外,还通过优化CPU性能、推出AMX加速器等举措,为戴尔科技及其他合作伙伴提供了丰富的产品选择。同时,英特尔与合作伙伴共同打造了面向边缘AI的解决方案,如AI-BOX,集成了视频解码和分析功能,支持边缘视频分析和离线深度学习分析,部署便捷。
AI技术的迭代与AI场景的复杂化,对AI算力与训练数据的需求日益增长,AI基础设施将成为全球IT投资的热点之一。戴尔科技等领先基础设施供应商将与合作伙伴紧密合作,通过技术创新推动基础设施升级,加速AI应用的普及,为AI时代的到来做好准备。