- 2026-04-08 15:07
- 来源: 全国数标委
-
- 分享到
什么是数算协同?
数算协同是通过充分利用全国一体化算力网的算力资源,推动数据流通体系与算力支撑体系在设施、功能、产业、应用等多个层面协同运行,实现数据与算力跨主体、跨区域智能调度、高效流通和价值释放,促进数据、算力、算法融合发展。数算协同的核心思路是在全国一体化算力网高水平建设和高效能利用过程中,统筹考虑通用算力、智能算力、超级算力等多元异构算力资源对数据要素市场化、价值化的高效支撑,不断壮大数算产业生态体系,推动行业数据和算力协同,构建可信计算网络环境,实现数据可信流通,提升数据处理能力和治理水平,以“大数据”和“大算力”助推经济社会高质量发展。
什么是卡间互联?
在大模型训练中,海量参数需拆分至多块加速卡(如GPU、NPU等)协同计算,频繁的梯度同步与数据交换对通信效率提出极高要求。若依赖传统PCIe总线并经CPU/内存中转,受限于带宽与时延,扩展效率将大幅下降,甚至“加卡不增效”,难以发挥集群算力。
卡间互联技术(如HCC等)正是为了解决这问题,构建绕过CPU与主存的专用高速直连通路,使加速卡间可实现低时延、高带宽的直接通信,如同将多卡融合为一块“逻辑上的超大卡”。这不仅极大提升了模型与数据并行效率,更让多卡协同更紧密,显著提高算力利用率,缩短训练时间,降低单次训练成本,助力实现集群效能。