Pivotal Clustering Concepts Greenplum 网络配置管理

NetworkLayout Guidelines

General Recommendations

 

Pivotal集群中的所有系统都需要以某种形式的高速数据互连连接在一起。Pivotal集群的一般经验法则是最大值的20％，每个分段节点的理论I/O扫描速率将通过互连传输。

这显然取决于工作量，但出于规划的目的，这个数量确保了数据互连良好的服务。

Greenplum数据库：至少有两个10 Gb NIC用作集群服务器之间的专用网络互连。这是用于在查询期间加载数据和访问系统的路径。它应该尽可能高速和低延迟，不应该用于任何其他目的（即不是普通局域网的一部分）。

Pivotal Hadoop：建议至少使用一个10 GB的NIC。此外，强烈建议将两个NIC绑定在一起，当与支持多交换机LAG的交换机一起使用时。这用作Hadoop集群节点之间专用网络的一部分。它也可以用作Greenplum数据库集群的互连。在这种情况下，Hadoop被用来加载数据，以进行比Hadoop本身更深入的分析。

建议使用10 Gb网络。一般而言，思科，博科和Arista交换机都是不错的选择，因为这些品牌包括将交换机捆绑在一起的能力。与服务器上的NIC绑定一起，此方法消除了互连网络中的单点故障，基于Intel，QLogic或Emulex的网络接口往往效果最佳。建议使用第3层功能。第3层集成了许多可能在Greenplum数据库或Pivotal Hadoop环境中有用的功能。

注意：以上引用的供应商硬件仅作为示例使用。 Pivotal平台和系统工程没有指定在网络中使用哪种产品。

如果使用SAN存储以及支持光纤窥探（FIPS），则还需要FCoE交换机支持。

Network Topology

 

网络利用的一个经验法则是规划每个服务器的最大I/O读取带宽的20％作为网络流量。 这意味着测量1500MB/s读取带宽（由gpcheckperf测量）的服务器可能会传输300MB/s。 以前的Greenplum最佳实践需要4个1Gb接口才能适应这种负载。

目前的最佳做法是为集群互连提供两个10Gb接口。 这确保了带宽的增长，并减少机架中的布线。使用10Gb也适应压缩。 关键应用程序压缩磁盘上的数据，但在传输到群集中的其他系统之前将其解压缩。 这意味着1500MB/s的读取速率和4倍的压缩率会导致6000 MB/s的有效读取率。 6000 MB/s中的20％是1200 MB/s，这比单个10Gb接口的带宽更多。

 

Network Connections in a Greenplum Database Cluster

Greenplum数据库集群使用三种网络连接：

管理网络

互连网络

外部网络

 

管理网络

管理员网络将配置中设备的所有管理接口连接在一起。这通常用于为每个连接的设备提供监视和带外控制台访问。管理网络通常是一个1 Gb网络，在物理上和逻辑上与群集中的其他网络不同。

通常将服务器配置为使带外或熄灯管理接口共享每台服务器上的第一个网络接口。通过这种方式，同一个物理网络可以访问熄灯管理和操作系统级连接，这对于网络操作系统安装，补丁分发，监视和紧急访问非常有用。

 

开关类型

通常，每个机架一个24或48端口1 Gb交换机和一个额外的48端口交换机群集作为核心

任何1 Gb交换机都可以用于管理员网络。需要进行仔细的规划，以确保网络拓扑的设计能够提供足够的连接和网站所需的功能，以提供所需的访问类型。

电缆

管理员网络使用cat5e或cat6电缆。将每个群集设备的灯光或管理界面连接到管理员网络。在每个机架中放置一个管理交换机，并交叉连接交换机，而不是尝试从中央交换机向所有机架运行电缆。

注意：Pivotal建议管理网络使用不同颜色的电缆（其他网线通常是橙色的）。

 

互连网络

互连网络将集群中的服务器连接在一起，并在服务器之间形成高速，低争用的数据连接。这不应该在通用数据中心网络上实施，因为Greenplum数据库互联网流量往往会时时压倒网络。需要低延迟来确保Greenplum数据库集群正常运行。与一般网络共享互连将导致集群不稳定。

通常，每个机架需要两台交换机，另外两台交换机作为核心。每个服务器使用两根10 Gb电缆，每个机架使用两根10 Gb电缆将机架连接到核心。

互连网络通常以有限的方式连接到通用网络以促进数据加载。在这些情况下，保护互连网络和普通网络不受Greenplum数据库流量影响非常重要，反之亦然。使用路由器或适当的VLAN配置来实现这一点。

外部网络连接

主节点连接到一般客户网络，以允许用户和应用程序提交查询。通常，这是通过连接到主节点的少量1 Gb连接完成的。从需要访问主节点的用户和应用程序提供网络连接的任何方法都是可以接受的。