-
主处理单元（CPU）与加速器节点的通信：
- 主处理单元负责处理大量算数运算和数据交换,负责主->加速器节点的通信。
- 通过异构计算,加速器节点内部的数据交换利用主处理单元的计算能力。
-
加速器节点内部的数据交换：
- 增加异构计算,加速器节点内部的数据流中使用主处理单元进行并行计算，提高效率。
- 异构计算允许加速器节点内部的数据交换利用主处理单元的计算能力,从而加速整个加速器节点的工作。
-
多设备集群的使用：
增加多设备集群,提升训练效率，加速器节点在集群中起到核心作用。
-
异构网络和异构计算：
- 异构计算加速器节点内部的计算,利用主处理单元的计算资源。
- 异构网络增强数据流与加速器节点的通信,提高数据交换的效率。
-
数据流中的并行计算：
加速器节点在数据流中进行并行计算,利用主处理单元的能力，提升整体计算效率。
加速器节点的连接方案是一个高效的网络结构,通过主处理单元和加速器节点之间的异构计算，加速器节点内部的异构计算，以及多设备集群的使用，实现整体训练过程的高效提升。
