Debug python - Segmentation fault (core dumped)

已于 2022-05-25 09:44:17 修改
阅读量709 收藏 1
点赞数 2
文章标签： python tensorflow 深度学习
于 2022-05-04 10:06:48 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_38812492/article/details/124566433
版权
博客内容讲述了作者在使用Pytorch进行代码训练时遇到Segmentationfault(coredumped)错误，通过添加python-q-Xfaulthandler进行调试，发现问题是由于环境中同时存在Pytorch和Tensorflow导致的。解决方案是卸载Tensorflow-GPU，或者重新编译Tensorflow以匹配CPU的指令集。问题解决后，代码恢复正常运行。
摘要由CSDN通过智能技术生成

现象：

  • Pytorch代码，之前可以训练，突然出现了Segmentation fault (core dumped)错误，啥也跑不了

调试：
运行的时候，加上

 python -q -X faulthandler train1.py

解决：
可以发现问题引起的代码

Current thread 0x00007f555a406080 (most recent call first):
  File "<frozen importlib._bootstrap>", line 219 in _call_with_frames_removed
  File "<frozen importlib._bootstrap_external>", line 1043 in create_module
  File "<frozen importlib._bootstrap>", line 583 in module_from_spec
  File "<frozen importlib._bootstrap>", line 670 in _load_unlocked
  File "<frozen importlib._bootstrap>", line 967 in _find_and_load_unlocked
  File "<frozen importlib._bootstrap>", line 983 in _find_and_load
  File "/home/teletraan/.pyenv/versions/comp/lib/python3.7/site-packages/tensorflow/python/pywrap_tensorflow.py", line 64 in <module>
  File "<frozen importlib._bootstrap>", line 219 in _call_with_frames_removed
  File "<frozen importlib._bootstrap_external>", line 728 in exec_module
  File "<frozen importlib._bootstrap>", line 677 in _load_unlocked
  File "<frozen importlib._bootstrap>", line 967 in _find_and_load_unlocked
  File "<frozen importlib._bootstrap>", line 983 in _find_and_load
  File "<frozen importlib._bootstrap>", line 219 in _call_with_frames_removed
  File "<frozen importlib._bootstrap>", line 1035 in _handle_fromlist
  File "/home/teletraan/.pyenv/versions/comp/lib/python3.7/site-packages/tensorflow/python/pywrap_tfe.py", line 28 in <module>
  File "<frozen importlib._bootstrap>", line 219 in _call_with_frames_removed
  File "<frozen importlib._bootstrap_external>", line 728 in exec_module
  File "<frozen importlib._bootstrap>", line 677 in _load_unlocked
  File "<frozen importlib._bootstrap>", line 967 in _find_and_load_unlocked
  File "<frozen importlib._bootstrap>", line 983 in _find_and_load
  File "<frozen importlib._bootstrap>", line 219 in _call_with_frames_removed
  File "<frozen importlib._bootstrap>", line 1035 in _handle_fromlist
  File "/home/teletraan/.pyenv/versions/comp/lib/python3.7/site-packages/tensorflow/python/eager/context.py", line 35 in <module>
  File "<frozen importlib._bootstrap>", line 219 in _call_with_frames_removed
  File "<frozen importlib._bootstrap_external>", line 728 in exec_module
  File "<frozen importlib._bootstrap>", line 677 in _load_unlocked
  File "<frozen importlib._bootstrap>", line 967 in _find_and_load_unlocked
  File "<frozen importlib._bootstrap>", line 983 in _find_and_load
  File "<frozen importlib._bootstrap>", line 219 in _call_with_frames_removed
  File "<frozen importlib._bootstrap>", line 1035 in _handle_fromlist
  File "/home/teletraan/.pyenv/versions/comp/lib/python3.7/site-packages/tensorflow/python/__init__.py", line 40 in <module>
  File "<frozen importlib._bootstrap>", line 219 in _call_with_frames_removed
  File "<frozen importlib._bootstrap_external>", line 728 in exec_module
  File "<frozen importlib._bootstrap>", line 677 in _load_unlocked
  File "<frozen importlib._bootstrap>", line 967 in _find_and_load_unlocked
  File "<frozen importlib._bootstrap>", line 983 in _find_and_load
  File "<frozen importlib._bootstrap>", line 219 in _call_with_frames_removed
  File "<frozen importlib._bootstrap>", line 953 in _find_and_load_unlocked
  File "<frozen importlib._bootstrap>", line 983 in _find_and_load
  File "/home/teletraan/.pyenv/versions/comp/lib/python3.7/site-packages/tensorflow/__init__.py", line 41 in <module>
  File "<frozen importlib._bootstrap>", line 219 in _call_with_frames_removed
  File "<frozen importlib._bootstrap_external>", line 728 in exec_module
  File "<frozen importlib._bootstrap>", line 677 in _load_unlocked
  File "<frozen importlib._bootstrap>", line 967 in _find_and_load_unlocked
  File "<frozen importlib._bootstrap>", line 983 in _find_and_load
  File "/home/teletraan/.pyenv/versions/comp/lib/python3.7/site-packages/huggingface_hub/keras_mixin.py", line 24 in <module>
  File "<frozen importlib._bootstrap>", line 219 in _call_with_frames_removed
  File "<frozen importlib._bootstrap_external>", line 728 in exec_module
  File "<frozen importlib._bootstrap>", line 677 in _load_unlocked
  File "<frozen importlib._bootstrap>", line 967 in _find_and_load_unlocked
  File "<frozen importlib._bootstrap>", line 983 in _find_and_load
  File "/home/teletraan/.pyenv/versions/comp/lib/python3.7/site-packages/huggingface_hub/__init__.py", line 63 in <module>
  File "<frozen importlib._bootstrap>", line 219 in _call_with_frames_removed
  File "<frozen importlib._bootstrap_external>", line 728 in exec_module
  File "<frozen importlib._bootstrap>", line 677 in _load_unlocked
  File "<frozen importlib._bootstrap>", line 967 in _find_and_load_unlocked
  File "<frozen importlib._bootstrap>", line 983 in _find_and_load
  File "/home/teletraan/.pyenv/versions/comp/lib/python3.7/site-packages/timm/models/hub.py", line 17 in <module>
  File "<frozen importlib._bootstrap>", line 219 in _call_with_frames_removed
  File "<frozen importlib._bootstrap_external>", line 728 in exec_module
  File "<frozen importlib._bootstrap>", line 677 in _load_unlocked
  File "<frozen importlib._bootstrap>", line 967 in _find_and_load_unlocked
  File "<frozen importlib._bootstrap>", line 983 in _find_and_load
  File "/home/teletraan/.pyenv/versions/comp/lib/python3.7/site-packages/timm/models/helpers.py", line 18 in <module>
  File "<frozen importlib._bootstrap>", line 219 in _call_with_frames_removed
  File "<frozen importlib._bootstrap_external>", line 728 in exec_module
  File "<frozen importlib._bootstrap>", line 677 in _load_unlocked
  File "<frozen importlib._bootstrap>", line 967 in _find_and_load_unlocked
  File "<frozen importlib._bootstrap>", line 983 in _find_and_load
  File "/home/teletraan/.pyenv/versions/comp/lib/python3.7/site-packages/timm/models/beit.py", line 29 in <module>
  File "<frozen importlib._bootstrap>", line 219 in _call_with_frames_removed
  File "<frozen importlib._bootstrap_external>", line 728 in exec_module
  File "<frozen importlib._bootstrap>", line 677 in _load_unlocked
  File "<frozen importlib._bootstrap>", line 967 in _find_and_load_unlocked
  File "<frozen importlib._bootstrap>", line 983 in _find_and_load
  File "/home/teletraan/.pyenv/versions/comp/lib/python3.7/site-packages/timm/models/__init__.py", line 1 in <module>
  File "<frozen importlib._bootstrap>", line 219 in _call_with_frames_removed
  File "<frozen importlib._bootstrap_external>", line 728 in exec_module
  File "<frozen importlib._bootstrap>", line 677 in _load_unlocked
  File "<frozen importlib._bootstrap>", line 967 in _find_and_load_unlocked
  File "<frozen importlib._bootstrap>", line 983 in _find_and_load
  File "/home/teletraan/.pyenv/versions/comp/lib/python3.7/site-packages/timm/__init__.py", line 2 in <module>
  File "<frozen importlib._bootstrap>", line 219 in _call_with_frames_removed
  File "<frozen importlib._bootstrap_external>", line 728 in exec_module
  File "<frozen importlib._bootstrap>", line 677 in _load_unlocked
  File "<frozen importlib._bootstrap>", line 967 in _find_and_load_unlocked
  File "<frozen importlib._bootstrap>", line 983 in _find_and_load
  File "/home/teletraan/baseline/competition/bird2022/src/timm_audio/models/timm_model.py", line 5 in <module>
  File "<frozen importlib._bootstrap>", line 219 in _call_with_frames_removed
  File "<frozen importlib._bootstrap_external>", line 728 in exec_module
  File "<frozen importlib._bootstrap>", line 677 in _load_unlocked
  File "<frozen importlib._bootstrap>", line 967 in _find_and_load_unlocked
  File "<frozen importlib._bootstrap>", line 983 in _find_and_load
  File "train1.py", line 30 in <module>
Segmentation fault (core dumped)

所以问题出在该环境既有torch又有tensorflow，导致了奇怪的问题，该环境下卸载tensorflow-gpu，问题解决

可能

编译安装tensorflow。因为有些cpu的指令集可能和pip安装的tensorflow的不一致, 这个时候可能会出现core dump的问题, 因此我们需要从新编译tensorflow.

记录pytorch第一次遇到Segmentation fault (core dumped)
Yonggie的博客
05-23 386
之后我发现所有报错的代码都是我一个库里面的，注释掉了之后还是这个库，一到这个库就有问题。，好像确实会因为cpu内存满了就G了，我加载的可是大模型。结果仔细检查了一下，根本没有，我全都to cuda了。用faulthandler进行debug还是有用的！于是pip list了一下，发现这个。然后配齐版本，发现没问题了！看了这个帖子，下载工具，然后。他妈的，连个提示都没有。也没出来什么有用的信息。
python遇到Segmentation fault (core dumped)调试方法
lefend的博客
12-20 1万+
python调试方法
【解决】nvidia nx板运行python程序出现Segmentation fault (core dumped)问题
最新发布
WXG1011的博客
10-16 227
nvidia nx板运行python程序出现Segmentation fault (core dumped)问题
python报Segmentation fault (core dumped)
Norsaa的博客
10-31 1万+
问题描述：在linux运行python脚本时，脚本停止，没有任何故障记录，linux界面报Segmentation fault (core dumped) 问题分析：网上有很多很高深的故障分析，我的遇到的比较简单，最后分析发现是有部分import的包在当前版本中没有，或者版本太低 处理方法：将import的每一个包单独执行试一下，看哪个包导入有问题。如果有问题，install该包或者升级该包即...
【Q&A】Python代码调试之解决Segmentation fault (core dumped)问题
小哲的博客
04-20 2万+
在使用半导体作为内存的材料前，人类是利用线圈当作内存的材料（发明者为王安），线圈就叫作 core ，用线圈做的内存就叫作 core memory。如今 ，半导体工业澎勃发展，已经没有人用 core memory 了，不过，在许多情况下，人们还是把记忆体叫作 core。
Python 调用动态库时 Segmentation fault (core dumped) 问题
一叶不知秋
09-03 1813
这几天一直纠缠在如何调用动态库的问题上，先是 Go 语言，而后迁移到 Python 语言。在测试 Python 调用动态库时，出现过 "Segmentation fault (core dumped)" 的问题，本文记录下怎么去寻找线索，找到并解决问题的。 出现 "Segmentation fault (core dumped)" 的原因是多方面的，比如在 C/C++语言中 内存访问越界(数组越界，strcpy, strcat, sprintf, strcmp 等字符串函数读写越界) 多线程使用了线.
Python 脚本运行时Segmentation fault (core dumped)
热门推荐
chijiaodaxie的博客
02-25 27万+
问题如题描述，python 运行过程中直接导致python 解释器崩溃（不是异常，直接崩溃），下面简叙一下debug过程： google查询结果显示这种情况多数是因为Python里的C扩展导致（访问了非法内存区域，可能和C自身内存管理机制有关），而且可以用gdb进行debug（因为Python崩溃，没法用python自身的debug机制，定位到出错的位置），gdb就输出一个出错的内存地址，楼主没想深
Ubuntu--(8)段错误Segmentation fault (core dumped)
kღïξs√√
10-25 4260
–段错误 指访问的内存超出了系统给这个程序所设定的内存空间，例如访问了不存在的内存地址、访问了系统保护的内存地址、访问了只读的内存地址等等情况，例如： 访问不存在的内存地址 include include include include include include include include include include include include
python段错误原因_Linux环境下段错误的产生原因及调试方法小结
weixin_39945531的博客
12-03 1180
最近在Linux环境下做C语言项目，由于是在一个原有项目基础之上进行二次开发，而且项目工程庞大复杂，出现了不少问题，其中遇到最多、花费时间最长的问题就是著名的“段错误”(Segmentation Fault)。借此机会系统学习了一下，这里对Linux环境下的段错误做个小结，方便以后同类问题的排查与解决。1. 段错误是什么一句话来说，段错误是指访问的内存超出了系统给这个程序所设定的内存空间，例如访问...
python gdb coredump_如何调试Core Dump 文件
weixin_39953100的博客
12-08 971
1. Getting the coredump(1)set the core size to be unlimited (run it on each login)$ ulimit -c unlimited(2)Be at the directory writable by your permission$ pwd/home/users/red9057/week2# run a program t...
python gdb coredump_通过gdb调试coredump
weixin_39676348的博客
12-08 1664
一、什么是coredump我们经常听到大家说到程序core掉了，需要定位解决，这里说的大部分是指对应程序由于各种异常或者bug导致在运行过程中异常退出或者中止，并且在满足一定条件下(这里为什么说需要满足一定的条件呢？下面会分析)会产生一个叫做core的文件。通常情况下，core文件会包含了程序运行时的内存，寄存器状态，堆栈指针，内存管理信息还有各种函数调用堆栈信息等，我们可以理解为是程序工作当前状...
core dump python_python报Segmentation fault (core dumped)
weixin_39890332的博客
12-08 409
这是django的代码：# -*- coding: utf-8 -*-# from __future__ import unicode_literalsfrom django.shortcuts import renderfrom django.http import HttpResponseimport urllib2import osimport uuidimport cookielibimp...
python 脚本编译出问题Segmentation fault (core dumped)
haigujiujian的博客
04-19 565
这个多数情况下是调用包的顺序出了问题，就是调用的包里面有你没调用包的代码
python-easyocr—segmentation fault (core dumped)
m0_53932440的博客
02-27 371
22-2-27 在使用easyocr.Reader(['ch_sim'])时报错：segmentation fault (core dumped) 解决方法：pip install opencv-python-headless==4.5.4.60 原因：opencv 版本过高
报错：rk3588运行python程序报错Segmentation fault (core dumped)，代码调试
qq_32636415的博客
12-14 771
在rk3588上，python程序运行过程中报错 Segmentation fault (core dumped)
python遇到 Segmentation fault (core dumped) 错误
weixin_43679461的博客
06-17 2441
深度学习遇到问题
Segmentation fault (core dumped)
weixin_33778544的博客
04-02 204
这个 该死的错误：搞了一天。 http://www.cprogramming.com/debugging/segfaults.html 五种可能： dereferencing NULL, dereferencing an uninitialized pointer, dereferencing a pointer that has been freed (or deleted, in C...
PyTorch DataLoader 报错 Segmentation fault (core dumped) 的原因及解决方案
沉迷单车的追风少年
04-28 1384
其他出core的方法都可以通过这个方法来排查，查看出core的具体原因。这里是因为torch的版本和CUDA的版本不匹配导致的错误。Pytorch DataLoader 读取数据。
pytorch Segmentation fault (core dumped)
qq_40246742的博客
11-23 719
pytorch Segmentation fault (core dumped) 今天训练的时候出现了这个错误，解决方法： 调小batch_size
python segmentation fault (core dumped)
12-13
"Python segmentation fault (core dumped)" 是指在执行Python代码时出现了内存分段错误，导致程序崩溃并生成了核心转储文件。这可能是由于程序访问了无效的内存地址或者发生了内存溢出等问题。 出现这个错误可能有...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

YueTann

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值
>