0. 为什么说做好微服务很难?
要想做好微服务,我们需要理解和掌握的知识点非常多,从几个维度上来说:
- 基本功能层面 并发控制&限流,避免服务被突发流量击垮 服务注册与服务发现,确保能够动态侦测增减的节点 负载均衡,需要根据节点承受能力分发流量 超时控制,避免对已超时请求做无用功 熔断设计,快速失败,保障故障节点的恢复能力
- 高阶功能层面 请求认证,确保每个用户只能访问自己的数据 链路追踪,用于理解整个系统和快速定位特定请求的问题 日志,用于数据收集和问题定位 可观测性,没有度量就没有优化
对于其中每一点,我们都需要用很长的篇幅来讲述其原理和实现,那么对我们后端开发者来说,要想把这些知识点都掌握并落实到业务系统里,难度是非常大的,不过我们可以依赖已经被大流量验证过的框架体系。go-zero微服务框架就是为此而生。
另外,我们始终秉承工具大于约定和文档的理念。我们希望尽可能减少开发人员的心智负担,把精力都投入到产生业务价值的代码上,减少重复代码的编写,所以我们开发了goctl工具。
下面我通过书店服务来演示通过go-zero快速的创建微服务的流程,走完一遍,你就会发现:原来编写微服务如此简单!
1. 书店服务示例简介
为了教程简单,我们用书店服务做示例,并且只实现其中的增加书目和检查价格功能。
写此书店服务是为了从整体上演示go-zero构建完整微服务的过程,实现细节尽可能简化了。
2. 书店微服务架构图
3. goctl各层代码生成一览
所有绿色背景的功能模块是自动生成的,按需激活,红色模块是需要自己写的,也就是增加下依赖,编写业务特有逻辑,各层示意图分别如下:
- API Gateway
- RPC
- model
下面我们来一起完整走一遍快速构建微服务的流程,Let’s Go!♂️
4. 准备工作
- 安装etcd, mysql, redis
- 创建工作目录bookstore
- 在bookstore目录下执行go mod init bookstore初始化go.mod
5. 编写API Gateway代码
在bookstore/api目录下通过goctl生成api/bookstore.api:
编辑bookstore.api,为了简洁,去除了文件开头的info,代码如下:
type用法和go一致,service用来定义get/post/head/delete等api请求,解释如下:
- service bookstore-api {这一行定义了service名字
- @server部分用来定义server端用到的属性
- handler定义了服务端handler名字
- get /add(addReq) returns(addResp)定义了get方法的路由、请求参数、返回参数等
- 使用goctl生成API Gateway代码
生成的文件结构如下:
启动API Gateway服务,默认侦听在8888端口
测试API Gateway服务
返回如下:
可以看到我们API Gateway其实啥也没干,就返回了个空值,接下来我们会在rpc服务里实现业务逻辑
可以修改internal/svc/servicecontext.go来传递服务依赖(如果需要)实现逻辑可以修改internal/logic下的对应文件可以通过goctl生成各种客户端语言的api调用代码到这里,你已经可以通过goctl生成客户端代码给客户端同学并行开发了,支持多种语言,详见文档6. 编写add rpc服务
在rpc/add目录下编写add.proto文件
可以通过命令生成proto文件模板
修改后文件内容如下:
用goctl生成rpc代码,在rpc/add目录下执行命令
文件结构如下:
直接可以运行,如下:
$ go run add.go -f etc/add.yaml Starting rpc server at 127.0.0.1:8080...复制代码
etc/add.yaml文件里可以修改侦听端口等配置
7. 编写check rpc服务
在rpc/check目录下编写check.proto文件
可以通过命令生成proto文件模板
用goctl生成rpc代码,在rpc/check目录下执行命令
文件结构如下:
etc/check.yaml文件里可以修改侦听端口等配置
需要修改etc/check.yaml的端口为8081,因为8080已经被add服务使用了,直接可以运行,如下:
8. 修改API Gateway代码调用add/check rpc服务
- 修改配置文件bookstore-api.yaml,增加如下内容
- 通过etcd自动去发现可用的add/check服务
- 修改internal/config/config.go如下,增加add/check服务依赖
- 修改internal/svc/servicecontext.go,如下:
- 通过ServiceContext在不同业务逻辑之间传递依赖
- 修改internal/logic/addlogic.go里的Add方法,如下:
- 通过调用adder的Add方法实现添加图书到bookstore系统
- 修改internal/logic/checklogic.go里的Check方法,如下:
- 通过调用checker的Check方法实现从bookstore系统中查询图书的价格
9. 定义数据库表结构,并生成CRUD+cache代码
- bookstore下创建rpc/model目录:mkdir -p rpc/model
- 在rpc/model目录下编写创建book表的sql文件book.sql,如下:
- 创建DB和table create database gozero
生成后的文件结构如下:
10. 修改add/check rpc代码调用crud+cache代码
- 修改rpc/add/etc/add.yaml和rpc/check/etc/check.yaml,增加如下内容:
修改rpc/check/internal/logic/checklogic.go,如下:
至此代码修改完成,凡是手动修改的代码我加了标注
11. 完整调用演示
- add api调用
返回如下:
- check api调用
12. Benchmark
因为写入依赖于mysql的写入速度,就相当于压mysql了,所以压测只测试了check接口,相当于从mysql里读取并利用缓存,为了方便,直接压这一本书,因为有缓存,多本书也是一样的,对压测结果没有影响。
压测之前,让我们先把打开文件句柄数调大:
ulimit -n 20000复制代码
并日志的等级改为error,防止过多的info影响压测结果,在每个yaml配置文件里加上如下:
Log: Level: error复制代码
可以看出在我的MacBook Pro上能达到3万+的qps。
13. 完整代码
github.com/tal-tech/go…
14. 总结
我们一直强调工具大于约定和文档。
go-zero不只是一个框架,更是一个建立在框架+工具基础上的,简化和规范了整个微服务构建的技术体系。
我们在保持简单的同时也尽可能把微服务治理的复杂度封装到了框架内部,极大的降低了开发人员的心智负担,使得业务开发得以快速推进。
通过go-zero+goctl生成的代码,包含了微服务治理的各种组件,包括:并发控制、自适应熔断、自适应降载、自动缓存控制等,可以轻松部署以承载巨大访问量。
有任何好的提升工程效率的想法,随时欢迎交流!