青海首个万卡集群项目主体日前成功封顶；云栖大会上，阿里云展示了围绕 AI 时代的新基建，其中单网络集群已拓展至十万卡级别；9月初时马斯克在社交媒体上宣布，旗下AI初创公司xAI 打造的超级 AI 训练集群 Colossus 已经正式上线……随着智算需求20年增长百亿倍，算力中心朝“万卡”规模演进，“万卡集群”已被业界视作是这一轮大模型竞赛的“入场券”。
万卡集群竞赛进行中
在数字化浪潮的推动下，人工智能（AI）已成为引领时代发展的关键力量。随着AI技术的不断深入应用，对算力的需求呈现出爆炸性增长，传统的千卡集群已难以满足日益增长的计算需求。在这样的背景下，“万卡集群”应运而生，成为新一轮大模型竞赛的“入场券”。
万卡集群，顾名思义，是由数以万计的计算卡组成的庞大计算集群。相较于千卡集群，万卡集群在计算能力、数据处理速度和存储容量等方面都有着质的飞跃。它能够支持更大规模的模型训练和更复杂的计算任务，为AI技术的发展提供了强大的动力。
近年来，随着AI大模型的不断涌现，模型规模和数据参数呈现出指数级增长。这些庞大的模型和数据需要强大的计算能力来进行训练和推理，而万卡集群正是满足这一需求的关键基础设施。它能够将这些庞大的数据和模型有效地组织起来，通过并行计算和分布式处理，实现高效、快速的计算任务。
万卡集群的重要性不仅在于其强大的计算能力，更在于其对AI技术发展的推动作用。首先，万卡集群能够加速AI技术的研发和应用。在AI领域，模型的训练和推理是两个核心环节。万卡集群通过提供强大的计算能力，能够显著缩短模型的训练周期，提高研发效率。同时，它还能够支持更大规模的模型推理任务，满足实际应用中的高性能需求。
其次，万卡集群能够推动AI技术的创新和发展。随着AI技术的不断深入应用，对算力的需求也在不断变化。万卡集群作为一种灵活的计算基础设施，能够根据不同的应用需求进行定制化的配置和优化。这为AI技术的创新和发展提供了广阔的空间和可能。
此外，万卡集群还能够促进AI技术的普及和推广。在AI技术的普及过程中，算力是一个重要的制约因素。万卡集群通过提供强大的计算能力和高效的计算服务，能够降低AI技术的应用门槛，推动其在各个领域的广泛应用。
运营商加速万卡集群建设
在算力基础设施的建设中，运营商扮演着至关重要的角色。作为算力基础设施建设的中坚力量，运营商不仅拥有庞大的网络资源和用户基础，还具备强大的技术实力和资金优势。在万卡集群的建设上，运营商更是展现出了积极的姿态和决心。
中国电信作为国内领先的通信服务提供商，积极响应国家关于加快新型基础设施建设的号召，加速推进万卡集群的建设。在青海省启动的首个万卡集群项目就是一个典型案例。该项目采用了先进的计算卡和高速网络设备，构建了高性能的计算集群，并针对万卡集群的特点进行了深度优化，提升了计算效率和资源利用率。
中国移动也在积极布局万卡集群的建设。其通过整合自身强大的网络资源和用户基础，联合产业链各方共同推进万卡集群技术的研发和应用。中国移动还在积极探索万卡集群在AI+转型中的应用场景，助力社会数字化转型。
中国联通同样在万卡集群建设上取得了显著进展。公司注重技术创新和资源整合，通过采用先进的硬件设施和软件优化策略，成功构建了高性能的万卡集群。此外，中国联通还建立了完善的运维管理体系，确保万卡集群的稳定运行和高性能输出。
万卡集群将对运维提出新挑战
尽管万卡集群在计算能力和数据处理速度等方面具有显著优势，但其运维管理也面临着诸多挑战。首先，海量数据的处理是一个重要问题。随着AI技术的不断发展，数据量呈现出爆炸性增长，如何有效地存储、管理和处理这些数据是一个亟待解决的问题。
其次，计算网络的稳定性和可靠性也是一个关键因素。万卡集群中的计算卡数量庞大，网络连接复杂，一旦出现故障或延迟，将直接影响整个集群的计算效率和稳定性。
此外，软件的优化和升级也是一个持续的过程。随着AI技术的不断进步和应用需求的不断变化，万卡集群的软件系统也需要不断地进行优化和升级，以适应新的计算需求和应用场景。
为了应对这些挑战，运营商需要采取一系列措施。首先，在硬件设施上，要采用高质量的计算卡和高速网络设备，确保集群的稳定性和可靠性。其次，在软件优化上，要针对万卡集群的特点进行深度优化，提升计算效率和资源利用率。此外，在运维管理上，要建立完善的监控和管理体系，及时发现并解决潜在问题。
总之，“万卡集群”作为新一轮大模型竞赛的“入场券”，其重要性不言而喻。随着智算需求的不断增长和算力中心的规模演进，万卡集群将成为未来智能算力领域的新赛场。
新浪科技公众号 “掌”握科技鲜闻 （微信搜索techsina或扫描左侧二维码关注）
相关新闻 
