并行计算集群系统

其实,这个标题好搞笑……

集群系统

一个能正常工作的基于Linux系统的并行计算集群,应该具备以下的特征。

  1. 有一个调度器,比如Slurm,OpenPBS等。商用的就不提了。
  2. 运行同一个版本的Linux系统,也就是系统版本唯一。
  3. 用户信息唯一和数据唯一。意味着用户在任何一个节点上,看到的数据程序都是一样的。
  4. 除了登录环节外,用户通过调度器访问任何资源,鉴权过程均是无感知的。
  5. 用户仅可访问调度器分派的资源。依靠用户自觉遵守规则,不盗用资源是不现实的。
  6. 添加和删除用户,只需在管理节点完成类似useradd/userdel的操作。
  7. 关机,开机,重启某一个机器或者整个集群,只需在管理节点操作一次。任何实际过程,均不直接操作任何一个计算节点。

别迷信术语/行话

别迷信什么并行环境。这种专业的术语都是糊弄人的。

科学计算中的并行计算,就我接触到的而言,绝大多数是通过MPI进行的。

调度器自动传递参数给MPI,然后程序自动通过MPI并行。不用额外搞什么环境的。

当然了,程序代码本身决定了支持那种MPI(比如MPICH和OpenMPI),以及能否通过MPI并行。有些程序还是通过OpenMP方式并行的。

不支持MPI的程序,当然不可以通过mpirun来运行了。

未必需要MPI

如果采用hpc4you的集群方案,MPI都不需要。

使用hpc4you_toolkit完成集群搭建之后,下载软件镜像,配合slurm调度脚本,就直接可以跑计算了。

也不用迷信什么module load之类的配置操作了。hpc4you提供的软件镜像, 是下载即用的。唯一的依赖, 目前仅仅支持x86处理器(比如Intel近10年和AMD进5年的处理器), 而且需要在机器上安装singularity。 

hpc4you集群方案

OpenHPC,Rocks,以及我写的hpc4you_toolkit,都是基于Beowulf Cluster模型的来组建集群的。不过我的方案,无需任何IT技能,仅此而已。

hpc4you提供的集群组建工具, hpc4you_toolkit,仅仅要求用户上传zip包; 而后拷贝并粘贴这个指令 unzip hpc4you*zip; source code。 

其实, 我不会写自解压可执行的压缩包, 要不然, 用户只需输入类似 ./hpc4you*zip 并按回车键就可以了。

hpc4you提供的并行计算集群方案, 是免维护免管理的。 唯一需要管理的地方, 可能就是添加用户而已。 具体可以如下的视频介绍: 

零配置组建并行计算集群 | 50秒简介_哔哩哔哩_bilibili

零配置做并行计算集群 | 90秒简介_哔哩哔哩_bilibili

集群管理简介_哔哩哔哩_bilibili

hpc4you_toolkit提供的集群方案, 是自洽的, 包括集群系统本身,以及各种专业软件通过调度器运行多核心甚至是多节点并行计算。 并非什么简单的shell脚本, 虽然出于历史原因, 各个模块的名称都是XXX.sh。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 4
    评论
在Ubuntu 18.04系统中,可以通过一些步骤在集群中并行计算MATLAB。 首先,确保集群中的每个节点都有安装MATLAB,并且已经配置好MATLAB的执行路径。 接下来,使用MATLAB的Parallel Computing Toolbox进行集群配置。打开MATLAB并在命令窗口中输入"distcomp.feature(‘LocalUseMpiexec’, false)"来禁用集群的默认本地执行器。然后,在MATLAB命令窗口中执行"mdce"命令来打开MATLAB分布式计算引擎。 在打开的MATLAB分布式计算引擎界面中,选择"集群"选项卡,然后选择"添加集群配置文件"。在弹出的对话框中,输入集群节点的主机名或IP地址,以及MATLAB的执行路径。点击"添加"按钮,将集群配置文件保存到本地。 在MATLAB命令窗口中,执行"mem"命令来查看可用的计算节点和节点内存的情况。 接下来,使用MATLAB的并行计算函数和命令来实现并行计算。在脚本或函数中使用"parfor"循环来实现并行计算任务的拆分和分配给集群中的多个节点。使用"parpool"命令创建并行计算的进程池,并设置池中的工作进程数。 最后,通过执行MATLAB脚本或函数实现并行计算任务,使用"mpirun"命令指定集群配置文件,并设置需要运行的MATLAB脚本或函数。该命令将在集群中的各个节点上启动MATLAB进程并进行并行计算。 总之,通过在Ubuntu 18.04系统中配置集群环境、使用MATLAB的Parallel Computing Toolbox以及合理使用并行计算函数和命令,可以在集群中实现MATLAB的并行计算

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值