metaGEM使用小记(解决各种问题)2024 2(二)

我的博客:我的博客
原文:metaGEM使用小记(解决各种问题)2024.1(二)

metaGEM使用小记(解决各种问题)2024.2(二)

书接上文,貌似配置还有点问题。跑了半天以后迟迟看不到结果,htop一看CPU占用几乎为0,应该是没跑起来,squeue 再一看,状态是PD,意思是等待,正常情况应该是R。于是我有网上找了下原因,说只有空闲条件满足job的运行条件才会运行。

  • 我做了以下操作:
    1. scancle 掉所有队列里的人物
    2. 修改slurm.config 的参数稍大一些
    3. 重新启动sudo systemctl restart slurmd & sudo systemctl restart slurmctld
    4. 更改bash metaGEM.sh -t fastp -j 2 -c 2 -m 10 -h 2 中m(内存)的大小和j(任务数量)的大小
    5. 运行报错
sbatch: error: Memory specification can not be satisfied
sbatch: error: Batch job submission failed: Requested node configuration is not available

再排查一下scontrol show nodes

我们熟悉的报错又回来了(状态又是drain)

Untitled

查了好久好久在sudo cat /var/log/slurm-llnl/slurmctld.log

里面找到了错误

Untitled

就是NodeName那一行的配置Sockets和CoresPerSocket不仅要小于上一章讲的bash cxc.sh 的文件中的值,还要小于日志文件中数字前面的值,如(20<SocketsCoresPerSocket) 那么SocketsCoresPerSocket的积要小于20才可以。

如果日志长这样那么八成就可以启动了

Untitled

然后我们输入,改变节点的状态成空闲(注意一定要是sudo权限)

sudo scontrol update NodeName=your_node_name State=idle

1.问题:成功运行程序但是瞬间完成,并无输出结果

排查!

/var/log/slurm-llnl/slurmctld.log 里面显示

[2024-01-29T15:37:19.292] sched: Allocate JobId=73 NodeList=your_computer #CPUs=8 Partition=your_computer
[2024-01-29T15:37:20.367] _job_complete: JobId=73 WEXITSTATUS 1
[2024-01-29T15:37:20.367] _job_complete: JobId=73 done

再排查/var/log/slurm-llnl/slurmd.log

Untitled

无法创建输出文件

这属于slurm的BUG之一,只能先创建文件然后再创建文件夹 所以我们是能手动mkdir log 然后再运行

2.运行时日志文件中报错/usr/bin/bash: line 2: activate: No such file or directory

Untitled

猜测是这里面envs/metagem 的工作路径有变化,所以我们改成绝对路径试一下

set +u;source activate envs/metagem;set -u;

如何更改,提交给slurm处理的脚本是由snakemake生成的,因此我们找到这一句

source activate {config[envs][metagem]}

发现读取的config是config.ymal文件

243523435

应该在config.yaml文件里改这里,改成绝对路径

5234234

原来不是这个问题(服了)

当使用source activate env_name时,设置conda路径到环境变量即可

export PATH="/home/gc/anaconda3/bin:$PATH"

另外再shell脚本中启用conda环境一定要使用source不能使用conda。

Untitled

成功运行(泪目)!!!

成功运行(泪目)!!

成功运行(泪目)!

成功运行(泪目

成功运行(泪

成功运行(

成功运行

成功运

成功

  • 27
    点赞
  • 22
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Protobuf是一种高效的序列化协议,可以用于数据交换和数据存储。它的主要优势是大小小,速度快,可扩展性强。下面是使用Protobuf的一些小记: 1. 定义消息格式 首先,需要定义消息格式,以便Protobuf可以将数据序列化和反序列化。消息格式定义在.proto文件中,使用protobuf语言编写。例如,下面是一个简单的消息格式定义: ``` syntax = "proto3"; message Person { string name = 1; int32 age = 2; } ``` 这个消息格式定义了一个名为Person的消息,包含两个字段:name和age。 2. 生成代码 一旦消息格式定义好,就可以使用Protobuf编译器生成代码。编译器将根据消息格式定义生成相应的代码,包括消息类、序列化和反序列化方法等。可以使用以下命令生成代码: ``` protoc --java_out=. message.proto ``` 这将生成一个名为message.pb.java的Java类,该类包含Person消息的定义以及相关方法。 3. 序列化和反序列化 一旦生成了代码,就可以使用Protobuf序列化和反序列化数据。例如,下面是一个示例代码,将一个Person对象序列化为字节数组,并将其反序列化为另一个Person对象: ``` Person person = Person.newBuilder() .setName("Alice") .setAge(25) .build(); byte[] bytes = person.toByteArray(); Person deserializedPerson = Person.parseFrom(bytes); ``` 这个示例代码创建了一个Person对象,将其序列化为字节数组,然后将其反序列化为另一个Person对象。在这个过程中,Protobuf使用生成的代码执行序列化和反序列化操作。 以上是使用Protobuf的一些基本步骤和注意事项,希望对你有所帮助!

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值