异步任务报错-Celery: WorkerLostError: Worker exited prematurely: signal 9 (SIGKILL)

最新推荐文章于 2022-02-11 17:36:53 发布
最新推荐文章于 2022-02-11 17:36:53 发布
阅读量6.8k 收藏 1
点赞数 4
分类专栏： 小记 文章标签： linux python Python Celery
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Hongfei_ma/article/details/107242876
版权

异步任务报错-Celery: WorkerLostError: Worker exited prematurely: signal 9 (SIGKILL

发现问题

使用celery异步任务时,异步任务开始但是未执行结束,查看日志报错:

报错信息

分析原因

查找资料,有说是因为redis版本或者celery版本问题的,但是没有按照这个思路走下去,不能验证是否为这个原因,最后发现可能为内存问题, 因为之前mysql无法启动就是内存的问题,我使用的是运行内存为1G的服务器,运行django项目开了2个进程,安装有nginx redis celery supervisor进程管理工具,日常内存使用情况如下图
内存使用情况

查找原因

在 stackoverflow 找到一篇博客说是内存问题,然后顺着思路找下去

解决办法

查看系统的内存日志文件发现这个
日志在这个文件 /var/log/messages
首先说一下这个文件的存在,在Ubuntu系统中,这个文件你访问可能提示找不到这个文件
关于ubuntu 日志文件查看的地址可以参考这个链接
在这里插入图片描述
然后查看了 oom 这个问题
可以看到， 这里会有oom和oom-killer的具体时间。 经我对比发现， 上述时间， 与系统发生异常报警的时间一致。 所以， 系统发生异常确实是由oom引起的。

oom就是out of memory, 意思就是内存用完了（内存泄漏可能导致这种现象）。 在linux中， 如果linux机器的内存用完了， 会怎样呢？ 很显然， 系统肯定无法正常工作。 linux当然要考虑这种问题， linux会杀死占用内存很大的进程（这些进程后续可能被重新拉取）， 从而释放出一些内存， 来保证整个系统的的正常运行, 这就是linux oom-killer的机制。
在oom期间， 系统经常会遇到一些莫名其妙的异常， 这是能理解的， 因为内存吃紧啊。 过一会儿， 经历oom-killer后， 系统又暂时恢复正常了， 待到下次内存泄漏积累到一定阶段， 再次出现oom时， 系统又异常。 这种现象是很常见的， 如果不了解oom和oom-killer, 则不太容易查到问题的原因
参考链接

这样大致就找到问题的原因所在了,具体的解决办法可以根据原因解决了:
查看是否为代码问题,出现内存泄漏
或者是更换更加大内存的服务器
根据自身原因寻找解决办法

Alittlecode1216
关注
  • 4
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
专栏目录
rusty-celery：:crab:芹菜的Rust实现，用于生产和使用后台任务
02-05
的Rust实现，用于通过分布式消息队列生成和使用异步任务。 无论您在Rust的经验水平如何，我们都欢迎大家的贡献。 对于初学者来说，请参阅 。 如果您已经了解Rust的基础知识，但是它们是Celery的新手，请查看或原始的...
mac python意外退出celeryTask handler raised error: WorkerLostError(‘Worker exited prematurely: signal 6
huige6941的博客
04-20 2138
Python 意外退出 解决办法：celery work 后面加 --pool solo objc[2065]: +[NSApplication initialize] may have been in progress in another thread when fork() was called. objc[2065]: +[NSApplication initialize] may have been in progress in another thread when fork() was
异步加载卡顿问题解决
移动开发
09-24 2580
关于异步加载，很多人都是卡住，然后就进场景了，中间进度条基本没作用了。 雨松大神讲过一篇异步加载的，但是同样也是有问题的，跟直接跳转没什么区别。 但事实上，只要加上一句话就可以完成了。 [csharp] view plaincopy yield return new WaitForEndOfFrame();   等待直到所有的摄
C# BackgroundWorker对象 异步执行，避免界面卡死
涂文远的博客
01-13 1916
BackgroundWorker对象 异步执行，避免界面卡死，可以通告进度
Python celery Worker exited prematurely: signal 11 (SIGSEGV) --一种解决方案
weixin_42681866的博客
02-11 2246
前文   在一次架构升级后，Python celery遇到不知名异常，致使worker异常退出，最终导致可用worker数越来越少，任务卡死队列。   异常原因从celery日志看仅一个signal 11，从linux signal信号来看，signal 11标识Segmentation violation，即段异常，涉及到linux内核的数据异常，对于应用层使用celery来说，借鉴意义不大。需要进一步的异常排查定位问题。   celery版本：4.3.0；python版本：3.6.8 排查   由于报错
python 内存溢出排查_标准运维内存溢出问题解决
weixin_40000999的博客
12-13 588
[2019-09-27 11:26:06,090:INFO/Worker-276] Starting new HTTP connection (1): paas.service.consul[2019-09-27 11:26:06,168:INFO/Worker-276] Starting new HTTP connection (1): paas.service.consul[2019-09-2...
node-celery：Node.js的Celery客户端
02-04
Node.js的Celery客户端 Celery是基于分布式消息传递的异步任务/作业队列。 node-celery允许对来自Node.js的任务进行排队。 如果您不熟悉Celery，请访问用法简单示例，包含在： var celery = require ( 'node-celery'...
django-celery-results：芹菜结果后端与django
02-04
"django-celery-results"是 Celery 结果后端的一个扩展，专为Django设计，用于存储和管理Celery异步任务的结果。 描述虽然简洁，但暗示了它主要关注的是如何在Django应用中集成Celery的结果处理机制。Celery是一个...
django-celery-transactions:Django对Celery任务的事务支持
05-02
django-celery-transactions django-celery-transactions保留Celery任务，直到提交了当前数据库事务为止，避免了Celery 所述的潜在竞争情况。 从信号处理程序发送任务，不用担心！特征如果回滚事务，则将丢弃任务。 ...
docker-django-celery:Dockerized异步作业队列Websocket反馈
05-26
用户登录django应用，然后生成一次令牌并将其存储到Redis缓存中并发送回给用户用户使用令牌来认证并建立与aiohttp异步Web服务器的websocket连接用户安排一份作业（可能长时间运行）以供芹菜处理Celery完成作业处理...
程序出错Program received signal:SIGKILL
weixin_33885676的博客
11-14 224
1,出现这个问题的原因是： 转载于:https://www.cnblogs.com/85538649/archive/2011/11/14/2248932.html
interrupted by signal 9 : SIGKILL
qq_40992227的博客
07-07 6522
问题描述： interrupted by signal 9 : SIGKILL 原因分析： 终端top查看cpu内存未满，nvidia-smi查看gpu也未占满。 可能原因就是：pycharm配置运行内存太小。 解决方案： 找到pycharm的安装目录，/下载/pycharm-community-2021.1.1/bin/ pycharm.vmoptions 右键用文本编辑器打开，如图修改前两项pycharm 的最小、最大内存： 3.由于我的电脑GPU是4G，故修改最大内存为3G ...
python使用celery 报错 ： OSError handle is closed OSError handle is closed
切尔诺贝尔
09-30 2048
文章目录报错堆栈信息如下定位问题解决方案反思 报错堆栈信息如下 [2019-09-30 11:19:00,756: ERROR/ForkPoolWorker-85] Thread 'ResultHandler' crashed: OSError('handle is closed',) Traceback (most recent call last): File "/usr/lib/pyth...
celery源码分析-worker初始化分析（下）
qq_33339479的博客
07-08 1463
celery源码分析 本文环境python3.5.2，celery4.0.2，django1.10.x系列 celery的worker启动 在上文中分析到了Hub类的初始化，接下来继续分析Pool类的初始化， class Pool(bootsteps.StartStopStep): """Bootstep managing the worker pool. Desc...
clery:WorkerLostError
weixin_33701564的博客
08-25 179
为什么80%的码农都做不了架构师？>>> ...
celery：Process ‘ForkPoolWorker-170‘ pid:181 exited with ‘signal 9 (SIGKILL)
我就叫贝塔
11-12 2093
celery在容器运行，总是突然暴毙，查看日志发现如下错误： Process 'ForkPoolWorker-170' pid:181 exited with 'signal 9 (SIGKILL) 解决办法： 由于celery在容器里面运行， 只分配了了一核， 导致的错误， 将配置升高核数， 问题解决 ...
linux unit 7
ayyzz的博客
11-02 404
####################### ########unit.7########### ####################### 1.什么是进程 进程就是系统正在做的事 2.进程的状态 运行 休眠 停止 继续 结束 僵尸进程 3.图形中如何查看进程 gnome-system-monitor 4.如何用命令查看进程
PyTorch代码出现“interrupted by signal 9: SIGKILL”
墨门
04-08 3531
1 问题描述 运行PyTorch程序时出现“interrupted by signal 9: SIGKILL”错误； 根据网友lwten的回答： 感觉应该是内存不足导致的；
linux部分信号使用
04-13 460
The signals SIGKILL and SIGSTOP cannot be caught, blocked, or ignored. signal的sigkill信号，也就是kill -9 pid是无法在程序内部捕获的，那怎么办？你反抗不了，一般关于sigkill的日志会在/var/log/messages里，如果非deamon程序在终端也是有日志体现的。对于内核暴力完杀，你只能找到原因
我想将frontend 也是用volumes，将其映射到/app/frontend目录，在/app/frontend下install以及build，如何实现 docker-compose.yml文件： version: '3' services: frontend: build: context: ./frontend dockerfile: Dockerfile ports: - 8010:80 restart: always backend: build: context: ./backend dockerfile: Dockerfile volumes: - /app/backend:/app environment: - CELERY_BROKER_URL=redis://redis:6379/0 command: python manage.py runserver 0.0.0.0:8000 ports: - 8011:8000 restart: always celery-worker: build: context: ./backend dockerfile: Dockerfile volumes: - /app/backend:/app environment: - CELERY_BROKER_URL=redis://redis:6379/0 command: celery -A server worker -l info --pool=solo --concurrency=1 depends_on: - redis - backend restart: always celery-beat: build: context: ./backend dockerfile: Dockerfile volumes: - /app/backend:/app environment: - CELERY_BROKER_URL=redis://redis:6379/0 command: celery -A server beat -l info --scheduler django_celery_beat.schedulers:DatabaseScheduler depends_on: - redis - backend restart: always redis: image: redis:latest ports: - 6379:6379 restart: always mysql: image: mysql:latest environment: - MYSQL_ROOT_PASSWORD=sacfxSql258147@ ports: - 8016:3306 volumes: - ./mysql:/var/lib/mysql restart: always frontend：dockerfile文件 FROM node:16.18.1 WORKDIR /app/frontend COPY package*.json ./ RUN npm install COPY . . RUN npm run build:prod FROM nginx:latest COPY --from=0 /app/frontend/dist/ /usr/share/nginx/html EXPOSE 80 CMD ["nginx", "-g", "daemon off;"]
最新发布
07-14
要将前端的代码映射到容器内的`/app/frontend`目录，并在容器内进行安装和构建，可以通过在`docker-compose.yml`文件中为`frontend`服务添加一个卷来实现。更新后的`docker-compose.yml`文件如下所示： ```yaml version: '3' services: frontend: build: context: ./frontend dockerfile: Dockerfile ports: - 8010:80 volumes: - ./frontend:/app/frontend restart: always backend: build: context: ./backend dockerfile: Dockerfile volumes: - /app/backend:/app environment: - CELERY_BROKER_URL=redis://redis:6379/0 command: python manage.py runserver 0.0.0.0:8000 ports: - 8011:8000 restart: always celery-worker: build: context: ./backend dockerfile: Dockerfile volumes: - /app/backend:/app environment: - CELERY_BROKER_URL=redis://redis:6379/0 command: celery -A server worker -l info --pool=solo --concurrency=1 depends_on: - redis - backend restart: always celery-beat: build: context: ./backend dockerfile: Dockerfile volumes: - /app/backend:/app environment: - CELERY_BROKER_URL=redis://redis:6379/0 command: celery -A server beat -l info --scheduler django_celery_beat.schedulers:DatabaseScheduler depends_on: - redis - backend restart: always redis: image: redis:latest ports: - 6379:6379 restart: always mysql: image: mysql:latest environment: - MYSQL_ROOT_PASSWORD=sacfxSql258147@ ports: - 8016:3306 volumes: - ./mysql:/var/lib/mysql restart: always ``` 这样，将会把本地的`./frontend`目录映射到容器内的`/app/frontend`目录。然后，在容器内部构建过程中，使用`/app/frontend`目录中的代码进行安装和构建。 请注意，这里假设`docker-compose.yml`文件和`frontend`目录在同一级目录下。如果不是，请相应调整`volumes`中的路径。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值