Go异步任务解决方案 Asynq_如何单独对go asynq servers不下发任务

先自我介绍一下，小编浙江大学毕业，去过华为、字节跳动等大厂，目前阿里P7

深知大多数程序员，想要提升技能，往往是自己摸索成长，但自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年最新Golang全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上Go语言开发知识点，真正体系化！

由于文件比较多，这里只是将部分目录截图出来，全套包含大厂面经、学习笔记、源码讲义、实战项目、大纲路线、讲解视频，并且后续会持续更新

如果你需要这些资料，可以添加V获取：vip1024b （备注go）

正文

privileged: true
environment:

时区上海

TZ: Asia/Shanghai
command: redis-server /etc/redis/redis.conf --appendonly yes
volumes:

• $PWD/data:/data
• $PWD/conf/redis.conf:/etc/redis/redis.conf

networks:

- myweb

#networks:

myweb:

driver: bridge

conf/redis.conf

#开启保护
protected-mode yes
#开启远程连接
#bind 127.0.0.1
#自定义密码
requirepass 123456
port 6379
timeout 0

900s内至少一次写操作则执行bgsave进行RDB持久化

save 900 1
save 300 10
save 60 10000

rdbcompression ；默认值是yes。对于存储到磁盘中的快照，可以设置是否进行压缩存储。如果是的话，redis会采用LZF算法进行压缩。如果你不想消耗CPU来进行压缩的话，可以设置为关闭此功能，但是存储在磁盘上的快照会比较大。

rdbcompression yes

dbfilename ：设置快照的文件名，默认是 dump.rdb

dbfilename dump.rdb

dir：设置快照文件的存放路径，这个配置项一定是个目录，而不能是文件名。使用上面的 dbfilename 作为保存的文件名。

dir /data

默认redis使用的是rdb方式持久化，这种方式在许多应用中已经足够用了。但是redis如果中途宕机，会导致可能有几分钟的数据丢失，根据save来策略进行持久化，Append Only File是另一种持久化方式， 可以提供更好的持久化特性。Redis会把每次写入的数据在接收后都写入appendonly.aof文件，每次启动时Redis都会先把这个文件的数据读入内存里，先忽略RDB文件。默认值为no。

appendonly yes

appendfilename ：aof文件名，默认是"appendonly.aof"

appendfsync：aof持久化策略的配置；no表示不执行fsync，由操作系统保证数据同步到磁盘，速度最快；always表示每次写入都执行fsync，以保证数据同步到磁盘；everysec表示每秒执行一次fsync，可能会导致丢失这1s数据

appendfsync everysec

启动 redis 服务

docker-compose up -d

2. 安装asynq软件包

go get -u github.com/hibiken/asynq

3. 创建项目asynq_task

目录结构：

.
|-- README.md
|-- cmd
| -- main.go # 启动消费者监听 |-- go.mod |-- go.sum |-- test.go # 生产者 发送测试数据 – test_delivery
|-- client
| -- client.go # 生产者 具体发送测试数据的逻辑 – test_delivery.go # 消费者，执行任务具体处理逻辑

2. Redis连接项

Asynq 使用 Redis 作为消息代理。
client.go 和 main.go 都需要连接到 Redis 进行写入和读取。
我们将使用 asynq.RedisClientOpt 指定如何连接到本地 Redis 实例。

asynq.RedisClientOpt{
Addr: “127.0.0.1:6379”,
Password: “”,
DB: 2,
}

4. Task任务

*asynq.Task

type Task struct {
// 一个简单的字符串值，表示要执行的任务的类型.
typename string

// 有效载荷保存执行任务所需的数据，有效负载值必须是可序列化的.
payload []byte

// 保存任务的选项.
opts []Option

// 任务的结果编写器.
w *ResultWriter
}

5. 编写程序

1）test_delivery.go 一个封装任务创建和任务处理的包

package test_delivery

import (
“context”
“encoding/json”
“fmt”
“github.com/hibiken/asynq”
“log”
)

const (
TypeEmailDelivery = “email:deliver”
)

// EmailDeliveryPayload 异步任务需要传递的数据结构
type EmailDeliveryPayload struct {
UserID int
TemplateID string
DataStr string
}

// NewEmailDeliveryTask 异步任务需要传递的数据
func NewEmailDeliveryTask(userID int, tmplID, dataStr string) (*asynq.Task, error) {
payload, err := json.Marshal(EmailDeliveryPayload{UserID: userID, TemplateID: tmplID, DataStr: dataStr})
if err != nil {
fmt.Println(err)
return nil, err
}
return asynq.NewTask(TypeEmailDelivery, payload), nil
}

// HandleEmailDeliveryTask 发送email处理逻辑
func HandleEmailDeliveryTask(ctx context.Context, t *asynq.Task) error {
//接收任务数据
var p EmailDeliveryPayload
if err := json.Unmarshal(t.Payload(), &p); err != nil {
return fmt.Errorf(“json.Unmarshal failed: %v: %w”, err, asynq.SkipRetry)
}
//逻辑处理start…
log.Printf(“Sending Email to User: user_id=%d, template_id=%s data_str:%s”, p.UserID, p.TemplateID, p.DataStr)
return nil
}

2. client.go

在应用程序代码中，导入上述包并用于Client将任务放入队列中。

package client

import (
“asynq_task/test_delivery”
“fmt”
“github.com/hibiken/asynq”
“log”
“time”
)

func EmailDeliveryTaskAdd(i int) {
client := asynq.NewClient(asynq.RedisClientOpt{
Addr: “192.168.0.120:6379”,
Password: “123456”,
DB: 2,
})
defer client.Close()

// 初使货需要传递的数据
task, err := test_delivery.NewEmailDeliveryTask(42, fmt.Sprintf(“some:template🆔%d”, i), {"name":"lisi"})
if err != nil {
log.Fatalf(“could not create task: %v”, err)
}
// 任务入队
//info, err := client.Enqueue(task)

//info, err := client.Enqueue(task, time.Now())
// 延迟执行
info, err := client.Enqueue(task, asynq.ProcessIn(3*time.Second))
// MaxRetry 重度次数 Timeout超时时间
//info, err = client.Enqueue(task, asynq.MaxRetry(10), asynq.Timeout(3*time.Second))
if err != nil {
log.Fatalf(“could not enqueue task: %v”, err)
}
log.Printf(“enqueued task: id=%s queue=%s”, info.ID, info.Queue)
}

3. main.go 异步任务服务入口文件

接下来，启动一个工作服务器以在后台处理这些任务。要启动后台工作人员，使用Server并提供您Handler来处理任务。可以选择使用ServeMux来创建处理程序，就像使用net/httpHandler 一样。

package main

import (
“asynq_task/test_delivery”
“github.com/hibiken/asynq”
“log”
)

func main() {
srv := asynq.NewServer(
asynq.RedisClientOpt{
Addr: “192.168.0.120:6379”,
Password: “123456”,
DB: 2,
},
asynq.Config{
// 每个进程并发执行的worker数量
Concurrency: 5,
// Optionally specify multiple queues with different priority.
Queues: map[string]int{
“critical”: 6,
“default”: 3,
“low”: 1,
},
// See the godoc for other configuration options
},
)

mux := asynq.NewServeMux()
mux.HandleFunc(test_delivery.TypeEmailDelivery, test_delivery.HandleEmailDeliveryTask)

if err := srv.Run(mux); err != nil {
log.Fatalf(“could not run server: %v”, err)
}
}

4）test.go 用来分发异步任务

package main

import (
“asynq_task/test_delivery/client”
“time”
)

func main() {
for i := 0; i < 3; i++ {
client.EmailDeliveryTaskAdd(i)
time.Sleep(time.Second * 3)
}
}

6. 运行查看结果

1. 首先，我们要先把异步任务启动起来准备好接收，也就是启动cmd/main.go
2. 启动test.go文件向异步任务服务添加任务队列

结果如下：

消息者 go run main.go

$ go run main.go
asynq: pid=12092 2023/02/02 23:18:04.161872 INFO: Starting processing
asynq: pid=12092 2023/02/02 23:18:04.161872 INFO: Send signal TERM or INT to terminate the process
2023/02/03 07:18:14 Sending Email to User: user_id=42, template_id=some:template🆔0 data_str:{“name”:“lisi”}
2023/02/03 07:18:19 Sending Email to User: user_id=42, template_id=some:template🆔1 data_str:{“name”:“lisi”}
2023/02/03 07:18:19 Sending Email to User: user_id=42, template_id=some:template🆔2 data_str:{“name”:“lisi”}

生产者 go run test.go

$ go run test.go

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化的资料的朋友，可以添加V获取：vip1024b （备注Go）

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
ate_id=some:template🆔2 data_str:{“name”:“lisi”}

生产者 go run test.go

$ go run test.go

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化的资料的朋友，可以添加V获取：vip1024b （备注Go）
[外链图片转存中…(img-EVFLQCv0-1713314396967)]

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！