2. 安装asynq软件包
go get -u github.com/hibiken/asynq
3. 创建项目asynq_task
目录结构:
.
|-- README.md
|-- cmd
| -- main.go # 启动消费者监听 |-- go.mod |-- go.sum |-- test.go # 生产者 发送测试数据
– test_delivery
|-- client
| -- client.go # 生产者 具体发送测试数据的逻辑
– test_delivery.go # 消费者,执行任务具体处理逻辑
2. Redis连接项
Asynq
使用 Redis
作为消息代理。
client.go
和 main.go
都需要连接到 Redis
进行写入和读取。
我们将使用 asynq.RedisClientOpt
指定如何连接到本地 Redis
实例。
asynq.RedisClientOpt{
Addr: “127.0.0.1:6379”,
Password: “”,
DB: 2,
}
4. Task任务
*asynq.Task
type Task struct {
// 一个简单的字符串值,表示要执行的任务的类型.
typename string
// 有效载荷保存执行任务所需的数据,有效负载值必须是可序列化的.
payload []byte
// 保存任务的选项.
opts []Option
// 任务的结果编写器.
w *ResultWriter
}
5. 编写程序
1)test_delivery.go
一个封装任务创建和任务处理的包
package test_delivery
import (
“context”
“encoding/json”
“fmt”
“github.com/hibiken/asynq”
“log”
)
const (
TypeEmailDelivery = “email:deliver”
)
// EmailDeliveryPayload 异步任务需要传递的数据结构
type EmailDeliveryPayload struct {
UserID int
TemplateID string
DataStr string
}
// NewEmailDeliveryTask 异步任务需要传递的数据
func NewEmailDeliveryTask(userID int, tmplID, dataStr string) (*asynq.Task, error) {
payload, err := json.Marshal(EmailDeliveryPayload{UserID: userID, TemplateID: tmplID, DataStr: dataStr})
if err != nil {
fmt.Println(err)
return nil, err
}
return asynq.NewTask(TypeEmailDelivery, payload), nil
}
// HandleEmailDeliveryTask 发送email处理逻辑
func HandleEmailDeliveryTask(ctx context.Context, t *asynq.Task) error {
//接收任务数据
var p EmailDeliveryPayload
if err := json.Unmarshal(t.Payload(), &p); err != nil {
return fmt.Errorf(“json.Unmarshal failed: %v: %w”, err, asynq.SkipRetry)
}
//逻辑处理start…
log.Printf(“Sending Email to User: user_id=%d, template_id=%s data_str:%s”, p.UserID, p.TemplateID, p.DataStr)
return nil
}
client.go
在应用程序代码中,导入上述包并用于Client
将任务放入队列中。
package client
import (
“asynq_task/test_delivery”
“fmt”
“github.com/hibiken/asynq”
“log”
“time”
)
func EmailDeliveryTaskAdd(i int) {
client := asynq.NewClient(asynq.RedisClientOpt{
Addr: “192.168.0.120:6379”,
Password: “123456”,
DB: 2,
})
defer client.Close()
// 初使货需要传递的数据
task, err := test_delivery.NewEmailDeliveryTask(42, fmt.Sprintf(“some:template🆔%d”, i), {"name":"lisi"}
)
if err != nil {
log.Fatalf(“could not create task: %v”, err)
}
// 任务入队
//info, err := client.Enqueue(task)
//info, err := client.Enqueue(task, time.Now())
// 延迟执行
info, err := client.Enqueue(task, asynq.ProcessIn(3*time.Second))
// MaxRetry 重度次数 Timeout超时时间
//info, err = client.Enqueue(task, asynq.MaxRetry(10), asynq.Timeout(3*time.Second))
if err != nil {
log.Fatalf(“could not enqueue task: %v”, err)
}
log.Printf(“enqueued task: id=%s queue=%s”, info.ID, info.Queue)
}
main.go
异步任务服务入口文件
接下来,启动一个工作服务器以在后台处理这些任务。要启动后台工作人员,使用Server
并提供您Handler
来处理任务。可以选择使用ServeMux
来创建处理程序,就像使用net/httpHandler
一样。
package main
import (
“asynq_task/test_delivery”
“github.com/hibiken/asynq”
“log”
)
func main() {
srv := asynq.NewServer(
asynq.RedisClientOpt{
Addr: “192.168.0.120:6379”,
Password: “123456”,
DB: 2,
},
asynq.Config{
// 每个进程并发执行的worker数量
Concurrency: 5,
// Optionally specify multiple queues with different priority.
Queues: map[string]int{
“critical”: 6,
“default”: 3,
“low”: 1,
},
// See the godoc for other configuration options
},
)
mux := asynq.NewServeMux()
mux.HandleFunc(test_delivery.TypeEmailDelivery, test_delivery.HandleEmailDeliveryTask)
if err := srv.Run(mux); err != nil {
log.Fatalf(“could not run server: %v”, err)
}
}
4)test.go
用来分发异步任务
package main
import (
“asynq_task/test_delivery/client”
“time”
)
func main() {
for i := 0; i < 3; i++ {
client.EmailDeliveryTaskAdd(i)
time.Sleep(time.Second * 3)
}
}
6. 运行查看结果
- 首先,我们要先把异步任务启动起来准备好接收,也就是启动cmd/main.go
- 启动test.go文件向异步任务服务添加任务队列
结果如下:
消息者 go run main.go
$ go run main.go
asynq: pid=12092 2023/02/02 23:18:04.161872 INFO: Starting processing
asynq: pid=12092 2023/02/02 23:18:04.161872 INFO: Send signal TERM or INT to terminate the process
2023/02/03 07:18:14 Sending Email to User: user_id=42, template_id=some:template🆔0 data_str:{“name”:“lisi”}
2023/02/03 07:18:19 Sending Email to User: user_id=42, template_id=some:template🆔1 data_str:{“name”:“lisi”}
2023/02/03 07:18:19 Sending Email to User: user_id=42, template_id=some:template🆔2 data_str:{“name”:“lisi”}
生产者 go run test.go
$ go run test.go
2023/02/03 07:18:09 enqueued task: id=5d998c6b-3978-4a25-a096-6e564e032359 queue=default
2023/02/03 07:18:12 enqueued task: id=74a5fea4-d4d4-465f-b310-31981e472f6a queue=default
2023/02/03 07:18:15 enqueued task: id=41c46b7b-ea78-4abc-878a-ea65e3859e28 queue=default
三、细节
1. 关于asynq的优雅退出
如果异步服务突然被暂停,正在执行的异步任务会push到队列中,下次启动的时候自动执行。
我们可以将一个异步任务中途sleep几秒,发送一个异步任务,任务没执行完中途停掉任务测试出结果:
再次启动异步任务服务,发现这个任务被重新执行。
2. client中 client.Enqueue 的使用
- 立即处理任务
client.Enqueue(t1, time.Now())
2)延时处理任务, 两小时后处理
client.Enqueue(t2, asynq.ProcessIn(time.Now().Add(2 * time.Hour)))
- 任务重试,最大重试次数为25次。
client.Enqueue(task, asynq.MaxRetry(5))
自我介绍一下,小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。
深知大多数Go语言工程师,想要提升技能,往往是自己摸索成长或者是报班学习,但对于培训机构动则几千的学费,着实压力不小。自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!
因此收集整理了一份《2024年Go语言全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友,同时减轻大家的负担。
既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上Golang知识点,真正体系化!
由于文件比较大,这里只是将部分目录大纲截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且后续会持续更新
如果你觉得这些内容对你有帮助,可以添加V获取:vip1024b (备注Go)
一个人可以走的很快,但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎扫码加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!
969699963)]
既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上Golang知识点,真正体系化!
由于文件比较大,这里只是将部分目录大纲截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且后续会持续更新
如果你觉得这些内容对你有帮助,可以添加V获取:vip1024b (备注Go)
[外链图片转存中…(img-TqpDGM0O-1712969699963)]
一个人可以走的很快,但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎扫码加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!