《并行计算》并行计算机系统互连与基本通信操作

最新推荐文章于 2023-09-19 08:45:00 发布

AndyZzz~

最新推荐文章于 2023-09-19 08:45:00 发布

阅读量4.4k

点赞数 6

分类专栏：并行计算

本文链接：https://blog.csdn.net/weixin_44026604/article/details/116277188

版权

并行计算专栏收录该内容

7 篇文章 19 订阅

订阅专栏

并行计算机互连网络

系统互连和网络拓扑

看看一些网络架构和网络带宽的关系图，一般网络带宽越高，并行计算机的互连通信消耗的时间越少，当然还要综合考虑其他多方面因素！
在这里插入图片描述
一般系统互连可采用静态网络互连或动态网络互连。他们有各自的特点！

对静态网络来说：

处理单元之间有着固定的连接
在程序执行期间，这种点到点的连接保持不变
典型的静态网络有：一维线性阵列、二维网孔、树连接、超立方网络、立方环、洗牌交换网、蝶形网络等

对动态网络来说：

用开关单元构成
可按应用程序的要求动态地改变连接组态
一般用到总线、交叉开关和多级互连网络等

静态互连网络

得先了解几个概念:

节点度：射入和射出一个节点的边数
网络直径：网络中任何两个节点之间的最长距离，注意这里隐含了最大的最小值这个比较拗口的概念
对剖宽度：对分网络各半所必须移除的最少边数
网络对称：从任意节点观看网络都一样

计算机网络的架构，在并行网络架构面前就是个弟弟qaq：
普通计算机网络架构图
但也是并行网络的根基，下面我们就开始学习几个静态互连网络：
一维线性阵列
这是最简单的网络，特点如下：

每个节点只与其左右近邻相连，也叫二近邻相连
N个节点用N-1条边串接
- 内节点度为2
- 直径为N-1
- 对剖宽度为1
当首、尾节点相连时可构成循环移位器，在拓扑结构上等同于环
- 单向的或双向
- 节点度恒为2
- 直径或为⌊𝑁/2⌋(双向环)或为N-1(单向环)
- 对剖宽度为2
  二维网孔
  网孔有多种类型，简单介绍一下：
每个节点只与其上、下、左、右的近邻相连(边界节点除外)
- 节点度为4，网络直径为2(√𝑁-1) ，对剖宽度为√𝑁
在垂直方向上带环绕，水平方向呈蛇状，就变成Illiac网孔
- 节点度恒为4，网络直径为√𝑁-1，对剖宽度为2√𝑁
垂直和水平方向均带环绕，则变成了2-D环绕
- 节点度恒为4，网络直径为2⌊√𝑁/2⌋ ，对剖宽度为2√𝑁

在这里插入图片描述

树
树也有几种类型：

二叉树
- 除了根、叶节点，每个内节点只与其父节点和两个子节点相连
- 节点度为3，网络直径为2(⌈log⁡〖 (𝑁+1)〗 ⌉-1)，对剖宽度为1
- 根易成为通信瓶颈
星形网络
- 节点度为N-1 ，网络直径为2，对剖宽度为⌊𝑁/2⌋
胖树
- 节点间的通路自叶向根逐渐变宽

在这里插入图片描述

超立方

一个n-立方由N=2n个顶点组成
- 节点度为n，网络直径为n，对剖宽度为N/2

除了超立方，还有立方环，这是要玩出花样。。。

3-立方环
- 将3-立方的每个顶点代之以一个环
- 节点度为3

在这里插入图片描述

嵌入
所谓嵌入，知道是将将网络中的各节点映射到另一个网络中去，应该就可以了！

超立方网可完美嵌入到2-D环绕网中

下面比较各种静态互联网络的特性：

在这里插入图片描述

动态互连网络

总线

总线仲裁、中断处理、协议转换、快速同步、缓存一致性协议、总线桥接、层次总线的扩展

在这里插入图片描述
交叉开关

可由程序控制动态设置其处于“开”或“关”状态
能在 (源, 目的)对之间建立动态连接
可为每个端口提供更高的带宽
交叉开关的使用方式
- 用于处理器之间的通信
- 用于处理器和存储模块之间的通信

在这里插入图片描述

多级互连网络

由单级交叉开关级联起来形成
开关单元
级间连接方式
- 均匀洗牌、蝶式、纵横交叉

在这里插入图片描述

下面比较一下动态互连网络的特性：

在这里插入图片描述

标准互连网络

光纤分布式数据接口(FDDI )

采用双向光纤令牌环
提供100~200Mbps数据传输速率
能够互连大量的设备
适用于LAN和MAN
价格较贵

快速以太网
在这里插入图片描述
Myrinet

由Myricom公司设计的千兆位包交换网络
其目的是互连商用产品以构筑计算机群
定义在数据链路层，包的长度可变
在每条链路上施行流控和差错控制
2002年12月的TOP500中有140个使用Myrinet，TOP100中有15个使用Myrinet

可扩放一致性接口(SCI)

ANSI/IEEE 1992年批准的一个高速互连标准
可用于共享存储多计算机或消息传递并行计算机
其目的在于构建一个具有良好扩放性的系统互连架构
完全分布式和可扩放的
允许数据以500MHz的速度传输，传输速率达到1GBps

Infiniband

集合了整个业界的努力而开发出来的能够替代PCI总线的新标准
其特性主要包括
- 分层结构
- 基于信息包的通信机制
- 三种连接速度1X、4X和12X
- 支持PCB、铜缆、光纤互连
- 子结构管理协议
- 远程DMA支持
- 支持多播以及广播
- 可靠的传输方法—消息队列机制
- 通信流控—链路层及终端到终端

选路方法与开关技术

选路方法

所谓选路，就是消息从发源地到达目的地所取的走法，即行进的方法。一般有如下的分类：

最短法和非最短法(贪心法/随机法)
- 前者总在源和目的之间试图选择最短的路径
确定和自适应的
- 前者在源和目的之间确定一条唯一的路径

X-Y选路法

X-Y选路法其实挺简单的，下面是二维网孔上的X-Y选路算法。

输入：待选路的信包处于源处理器中

输出：将各信包送至各自目的地中

流程：

沿x维将信包向左或向右选路并送至目的处理器所在的列
沿y维将信包向上或向下选路并送至目的处理器所在的行

下面是一个例子，其实也就是遵照着曼哈顿方式寻址就行：
在这里插入图片描述

E-立方选路法

令源节点的二进制编码为S=s_n-1…s₁s₀，目的节点的二进制编码为D=d_n-1…d₁d₀，注意到在超立方中，相邻节点的编码只有一位的不同。其选路方法为：
在这里插入图片描述

算法伪代码为：

Begin
	for i=1 to n do
		r[i] = s[i-1] ^ d[i-1]
	endfor
	i = 1, V = S
	while i ≤ n do
		if ri=1 then 从当前节点V选路到节点V^(1<<(i-1)) endif
		i = i+1
	endwhile
End

例如下面的这个图，源节点为0110，目的节点为1101，
在这里插入图片描述
源节点和目的节点异或的结果为1011，则按照前面的法则，选路为：0110 - 0111 - 0101 - 1101