Go操作MySQL
连接
Go语言中的database/sql包提供了保证SQL或类SQL数据库的泛用接口,并不提供具体的数据库驱动。使用database/sql包时必须注入(至少)一个数据库驱动。
我们常用的数据库基本上都有完整的第三方实现。例如:MySQL驱动
下载依赖
go get -u github.com/go-sql-driver/mysql
扩展: Go语言下载包
go get 包名
使用MySQL驱动
func Open(driverName, dataSourceName string) (*DB, error)
Open打开一个dirverName指定的数据库,dataSourceName指定数据源,一般包至少括数据库文件名和(可能的)连接信息。注意:这是利用Open不会校验账号密码是否正确 只会校验格式的正确性
import (
"database/sql"
_ "github.com/go-sql-driver/mysql" // 只需要使用驱动的init方法 所以使用_别名
)
func main() {
// DSN:Data Source Name
dsn := "user:password@tcp(127.0.0.1:3306)/dbname"
db, err := sql.Open("mysql", dsn) // 这里的"mysql" 指调用mysql驱动打开dsn
if err != nil {
panic(err)
}
defer db.Close()
}
初始化连接
Open函数可能只是验证其参数,而不创建与数据库的连接。如果要检查数据源的名称是否合法,应调用返回值的Ping方法。(用Open获取到的db对象调用Ping方法来验证账号密码是否正确 是否成功连接至数据库)
返回的DB可以安全的被多个goroutine同时使用,并会维护自身的闲置连接池。这样一来,Open函数只需调用一次。很少需要关闭DB。
// 定义一个全局对象db
var db *sql.DB
// 定义一个初始化数据库的函数
func initDB() (err error) {
// DSN:Data Source Name
dsn := "user:password@tcp(127.0.0.1:3306)/test"
// 不会校验账号密码是否正确
// 注意!!!这里不要使用:=,我们是给全局变量赋值,然后在main函数中使用全局变量db
db, err = sql.Open("mysql", dsn)
if err != nil {
return err
}
// 尝试与数据库建立连接(校验dsn是否正确)
err = db.Ping()
if err != nil {
return err
}
return nil
}
func main() {
err := initDB() // 调用输出化数据库的函数
if err != nil {
fmt.Printf("init db failed,err:%v\n", err)
return
}
defer db.Close() // 关闭数据库连链接
}
其中sql.DB是一个数据库(操作)句柄,代表一个具有零到多个底层连接的连接池。它可以安全的被多个go程同时使用。database/sql包会自动创建和释放连接;它也会维护一个闲置连接的连接池。
SetMaxOpenConns
func (db *DB) SetMaxOpenConns(n int)
SetMaxOpenConns设置与数据库建立连接的最大数目。 如果n大于0且小于最大闲置连接数,会将最大闲置连接数减小到匹配最大开启连接数的限制。 如果n<=0,不会限制最大开启连接数,默认为0(无限制)。
SetMaxIdleConns
func (db *DB) SetMaxIdleConns(n int)
SetMaxIdleConns设置连接池中的最大闲置连接数。 如果n大于最大开启连接数,则新的最大闲置连接数会减小到匹配最大开启连接数的限制。 如果n<=0,不会保留闲置连接。
CRUD
建库建表
我们先在MySQL中创建一个名为sql_test的数据库
CREATE DATABASE sql_test;
进入该数据库:
use sql_test;
执行以下命令创建一张用于测试的数据表:
CREATE TABLE `user` (
`id` BIGINT(20) NOT NULL AUTO_INCREMENT,
`name` VARCHAR(20) DEFAULT '',
`age` INT(11) DEFAULT '0',
PRIMARY KEY(`id`)
)ENGINE=InnoDB AUTO_INCREMENT=1 DEFAULT CHARSET=utf8mb4;
查询
单行查询
单行查询db.QueryRow()执行一次查询,并期望返回最多一行结果(即Row)。QueryRow总是返回非nil的值,直到返回值的Scan方法被调用时,才会返回被延迟的错误。(如:未找到结果)
func (db *DB) QueryRow(query string, args ...interface{}) *Row
具体示例代码:
// 查询单条数据示例
func queryRowDemo() {
sqlStr := "select id, name, age from user where id=?"
var u user // 需要事先创建与表相关字段的结构体
// 非常重要:确保QueryRow之后调用Scan方法,否则持有的数据库链接不会被释放 // Scan方法内部调用rows.Close() 释放链接方法
err := db.QueryRow(sqlStr, 1).Scan(&u.id, &u.name, &u.age)
if err != nil {
fmt.Printf("scan failed, err:%v\n", err)
return
}
fmt.Printf("id:%d name:%s age:%d\n", u.id, u.name, u.age)
}
多行查询
多行查询db.Query()执行一次查询,返回多行结果(即Rows),一般用于执行select命令。参数args表示query中的占位参数。
func (db *DB) Query(query string, args ...interface{}) (*Rows, error)
具体示例代码:
// 查询多条数据示例
func queryMultiRowDemo() {
sqlStr := "select id, name, age from user where id > ?"
rows, err := db.Query(sqlStr, 0)
if err != nil {
fmt.Printf("query failed, err:%v\n", err)
return
}
// 非常重要:关闭rows释放持有的数据库链接
defer rows.Close()
// 循环读取结果集中的数据 // 调用Next方法 如果还有值则返回True
for rows.Next() {
var u user
err := rows.Scan(&u.id, &u.name, &u.age)
if err != nil {
fmt.Printf("scan failed, err:%v\n", err)
return
}
fmt.Printf("id:%d name:%s age:%d\n", u.id, u.name, u.age)
}
}
插入数据
插入、更新和删除操作都使用方法。
func (db *DB) Exec(query string, args ...interface{}) (Result, error)
Exec执行一次命令(包括查询、删除、更新、插入等),返回的Result是对已执行的SQL命令的总结。参数args表示query中的占位参数。
具体插入数据示例代码如下:
// 插入数据
func insertRowDemo() {
sqlStr := "insert into user(name, age) values (?,?)"
ret, err := db.Exec(sqlStr, "王五", 38)
if err != nil {
fmt.Printf("insert failed, err:%v\n", err)
return
}
theID, err := ret.LastInsertId() // 新插入数据的id
if err != nil {
fmt.Printf("get lastinsert ID failed, err:%v\n", err)
return
}
fmt.Printf("insert success, the id is %d.\n", theID)
}
更新数据
具体更新数据示例代码如下:
// 更新数据
func updateRowDemo() {
sqlStr := "update user set age=? where id = ?"
ret, err := db.Exec(sqlStr, 39, 3)
if err != nil {
fmt.Printf("update failed, err:%v\n", err)
return
}
n, err := ret.RowsAffected() // 操作影响的行数
if err != nil {
fmt.Printf("get RowsAffected failed, err:%v\n", err)
return
}
fmt.Printf("update success, affected rows:%d\n", n)
}
删除数据
具体删除数据的示例代码如下:
// 删除数据
func deleteRowDemo() {
sqlStr := "delete from user where id = ?"
ret, err := db.Exec(sqlStr, 3)
if err != nil {
fmt.Printf("delete failed, err:%v\n", err)
return
}
n, err := ret.RowsAffected() // 操作影响的行数
if err != nil {
fmt.Printf("get RowsAffected failed, err:%v\n", err)
return
}
fmt.Printf("delete success, affected rows:%d\n", n)
}
MySQL预处理
什么是预处理?
普通SQL语句执行过程:
客户端对SQL语句进行占位符替换得到完整的SQL语句。
客户端发送完整SQL语句到MySQL服务端
MySQL服务端执行完整的SQL语句并将结果返回给客户端。
预处理执行过程:
把SQL语句分成两部分,命令部分与数据部分。
先把命令部分发送给MySQL服务端,MySQL服务端进行SQL预处理。
然后把数据部分发送给MySQL服务端,MySQL服务端对SQL语句进行占位符替换。
MySQL服务端执行完整的SQL语句并将结果返回给客户端。
为什么要预处理?
优化MySQL服务器重复执行SQL的方法,可以提升服务器性能,提前让服务器编译,一次编译多次执行,节省后续编译的成本。
避免SQL注入问题。
Go实现MySQL预处理
Go中的
func (db *DB) Prepare(query string) (*Stmt, error)
Prepare方法会先将sql语句发送给MySQL服务端,返回一个准备好的状态用于之后的查询和命令。返回值可以同时执行多个查询和命令。
查询操作的预处理示例代码如下:
// 预处理查询示例
func prepareQueryDemo() {
sqlStr := "select id, name, age from user where id > ?"
stmt, err := db.Prepare(sqlStr)
if err != nil {
fmt.Printf("prepare failed, err:%v\n", err)
return
}
defer stmt.Close()
rows, err := stmt.Query(0)
if err != nil {
fmt.Printf("query failed, err:%v\n", err)
return
}
defer rows.Close()
// 循环读取结果集中的数据
for rows.Next() {
var u user
err := rows.Scan(&u.id, &u.name, &u.age)
if err != nil {
fmt.Printf("scan failed, err:%v\n", err)
return
}
fmt.Printf("id:%d name:%s age:%d\n", u.id, u.name, u.age)
}
}
插入、更新和删除操作的预处理十分类似,这里以插入操作的预处理为例:
// 预处理插入示例
func prepareInsertDemo() {
sqlStr := "insert into user(name, age) values (?,?)"
stmt, err := db.Prepare(sqlStr)
if err != nil {
fmt.Printf("prepare failed, err:%v\n", err)
return
}
defer stmt.Close()
_, err = stmt.Exec("小王子", 18)
if err != nil {
fmt.Printf("insert failed, err:%v\n", err)
return
}
_, err = stmt.Exec("沙河娜扎", 18)
if err != nil {
fmt.Printf("insert failed, err:%v\n", err)
return
}
fmt.Println("insert success.")
}
Go实现MySQL事务
什么是事务?
事务:一个最小的不可再分的工作单元;通常一个事务对应一个完整的业务(例如银行账户转账业务,该业务就是一个最小的工作单元),同时这个完整的业务需要执行多次的DML(insert、update、delete)语句共同联合完成。A转账给B,这里面就需要执行两次update操作。
在MySQL中只有使用了Innodb数据库引擎的数据库或表才支持事务。事务处理可以用来维护数据库的完整性,保证成批的SQL语句要么全部执行,要么全部不执行。
事务的ACID
通常事务必须满足4个条件(ACID):原子性(Atomicity,或称不可分割性)、一致性(Consistency)、隔离性(Isolation,又称独立性)、持久性(Durability)。
条件解释
原子性
一个事务(transaction)中的所有操作,要么全部完成,要么全部不完成,不会结束在中间某个环节。事务在执行过程中发生错误,会被回滚(Rollback)到事务开始前的状态,就像这个事务从来没有执行过一样。
一致性
在事务开始之前和事务结束以后,数据库的完整性没有被破坏。这表示写入的资料必须完全符合所有的预设规则,这包含资料的精确度、串联性以及后续数据库可以自发性地完成预定的工作。
隔离性
数据库允许多个并发事务同时对其数据进行读写和修改的能力,隔离性可以防止多个事务并发执行时由于交叉执行而导致数据的不一致。事务隔离分为不同级别,包括读未提交(Read uncommitted)、读提交(read committed)、可重复读(repeatable read)和串行化(Serializable)。
持久性
事务处理结束后,对数据的修改就是永久的,即便系统故障也不会丢失。
事务相关方法
Go语言中使用以下三个方法实现MySQL中的事务操作。
开始事务
func (db *DB) Begin() (*Tx, error)
提交事务
func (tx *Tx) Commit() error
回滚事务
func (tx *Tx) Rollback() error
事务示例
下面的代码演示了一个简单的事务操作,该事物操作能够确保两次更新操作要么同时成功要么同时失败,不会存在中间状态。
// 事务操作示例
func transactionDemo() {
tx, err := db.Begin() // 开启事务
if err != nil {
if tx != nil {
tx.Rollback() // 回滚
}
fmt.Printf("begin trans failed, err:%v\n", err)
return
}
sqlStr1 := "Update user set age=30 where id=?"
_, err = tx.Exec(sqlStr1, 2)
if err != nil {
tx.Rollback() // 回滚
fmt.Printf("exec sql1 failed, err:%v\n", err)
return
}
sqlStr2 := "Update user set age=40 where id=?"
_, err = tx.Exec(sqlStr2, 4)
if err != nil {
tx.Rollback() // 回滚
fmt.Printf("exec sql2 failed, err:%v\n", err)
return
}
err = tx.Commit() // 提交事务
if err != nil {
tx.Rollback() // 回滚
fmt.Printf("commit failed, err:%v\n", err)
return
}
fmt.Println("exec trans success!")
}
封装使用
package sql
import (
"database/sql"
"fmt"
_ "github.com/go-sql-driver/mysql" // 只使用该包的init方法
)
// 使用需要更改 init方法中的连接数据库的dsn
// 使用需要更改 type结构体即可 以及以下方法中对应Scan扫描的结构体行
var Db *sql.DB
var err error
type User struct {
id int
name string
age int
}
func init() {
// 连接数据库
dsn := "root:@tcp(127.0.0.1:3306)/sql_test"
Db, err = sql.Open("mysql", dsn)
if err != nil {
panic(err)
}
err = Db.Ping()
if err != nil {
fmt.Println("未成功连接数据库")
return
}
println("连接数据库成功")
// 设置最大连接数
Db.SetMaxOpenConns(10)
// 设置最大闲置连接数
Db.SetMaxIdleConns(2)
}
// 单行查询
func QueryOne(sql string, format ...interface{}) (interface{}, error) {
// 声明收集数据结构体
var u User
// 链式操作扫描结果放置结构体中
err = Db.QueryRow(sql, format...).Scan(&u.id, &u.name, &u.age)
if err != nil {
fmt.Println("获取单行数据error")
return u, err
}
// 返回结构体
return u, nil
}
// 多行查询
func QueryMany(sql string, format ...interface{}) (interface{}, error) {
// 声明结构体变量 以及切片
var list []interface{}
var u User
// 获取多行数据
rows, err := Db.Query(sql, format...)
if err != nil {
fmt.Println("获取多行数据error")
return list, err
}
defer rows.Close()
// 循环取值 如果rows还有值则Next方法返回True
for rows.Next() {
err = rows.Scan(&u.id, &u.name, &u.age)
if err != nil {
fmt.Println("循环多行数据error")
return list, err
}
// 添加至切片中
list = append(list, u)
}
// 返回切片列表
return list, nil
}
// 更新插入以及删除 支持事务
func UpdateInsertDelete(sql string, format ...interface{}) (interface{}, error) {
// 开始事务
Tx, err := Db.Begin()
if err != nil {
fmt.Println("事务开启失败")
return nil, err
}
// 执行对应的sql语句
res, err := Tx.Exec(sql, format...)
if err != nil {
fmt.Println("执行更新or插入or删除错误")
// 事务回滚
Tx.Rollback()
return nil, err
}
// 如果是插入 则会返回对应的id值
theId, _ := res.LastInsertId()
if theId != 0 {
Tx.Commit()
return fmt.Sprintln("当前插入id为:", theId), nil
}
// 如果是更新删除 则返回对应的影响行数
n, _ := res.RowsAffected()
// 事务提交
Tx.Commit()
return fmt.Sprintln("当前语句影响行数:", n), nil
}
// 以下为预处理方法
// 单行查询
func PQueryOne(sql string, format ...interface{}) (interface{}, error) {
var u User
// 预处理
stmt, err := Db.Prepare(sql)
if err != nil {
fmt.Println("单行查询预处理失败")
return nil, err
}
defer stmt.Close()
err = stmt.QueryRow(format...).Scan(&u.id, &u.name, &u.age)
if err != nil {
fmt.Println("获取单行数据error")
return nil, err
}
return u, nil
}
func PQueryMany(sql string, format ...interface{}) (interface{}, error) {
var list []interface{}
var u User
// 预处理
stmt, err := Db.Prepare(sql)
if err != nil {
fmt.Println("多行查询预处理失败")
return nil, err
}
rows, err := stmt.Query(format...)
if err != nil {
fmt.Println("获取多行数据error")
return nil, err
}
defer rows.Close()
for rows.Next() {
err = rows.Scan(&u.id, &u.name, &u.age)
if err != nil {
fmt.Println("循环多行数据error")
return nil, err
}
list = append(list, u)
}
return list, nil
}
// 支持事务
func PUpdateInsertDelete(sql string, format ...interface{}) (interface{}, error) {
// 开始事务
Tx, err := Db.Begin()
if err != nil {
fmt.Println("开始事务失败")
return nil, err
}
// 预处理
stmt, err := Tx.Prepare(sql)
if err != nil {
fmt.Println("执行更新or插入or删除错误预处理失败")
// 回滚
Tx.Rollback()
return nil, err
}
defer stmt.Close()
res, err := stmt.Exec(format...)
if err != nil {
fmt.Println("执行更新or插入or删除错误")
// 回滚
Tx.Rollback()
return nil, err
}
theId, _ := res.LastInsertId()
if theId != 0 {
Tx.Commit()
return fmt.Sprintln("当前插入id为:", theId), nil
}
n, _ := res.RowsAffected()
// 提交
Tx.Commit()
return fmt.Sprintln("当前语句影响行数:", n), nil
}
func CloseDb() {
Db.Close()
}
sqlx使用
第三方库sqlx能够简化操作,提高开发效率。
安装
go get github.com/jmoiron/sqlx
基本使用
连接数据库
var db *sqlx.DB
func initDB() (err error) {
dsn := "user:password@tcp(127.0.0.1:3306)/test"
// 也可以使用MustConnect连接不成功就panic
db, err = sqlx.Connect("mysql", dsn)
if err != nil {
fmt.Printf("connect DB failed, err:%v\n", err)
return
}
db.SetMaxOpenConns(20)
db.SetMaxIdleConns(10)
return
}
查询
查询单行数据示例代码如下:
// 查询单条数据示例
func queryRowDemo() {
sqlStr := "select id, name, age from user where id=?"
var u user
err := db.Get(&u, sqlStr, 1)
if err != nil {
fmt.Printf("get failed, err:%v\n", err)
return
}
fmt.Printf("id:%d name:%s age:%d\n", u.ID, u.Name, u.Age)
}
查询多行数据示例代码如下:
// 查询多条数据示例
func queryMultiRowDemo() {
sqlStr := "select id, name, age from user where id > ?"
var users []user
err := db.Select(&users, sqlStr, 0)
if err != nil {
fmt.Printf("query failed, err:%v\n", err)
return
}
fmt.Printf("users:%#v\n", users)
}
插入、更新和删除
sqlx中的exec方法与原生sql中的exec使用基本一致:
// 插入数据
func insertRowDemo() {
sqlStr := "insert into user(name, age) values (?,?)"
ret, err := db.Exec(sqlStr, "沙河小王子", 19)
if err != nil {
fmt.Printf("insert failed, err:%v\n", err)
return
}
theID, err := ret.LastInsertId() // 新插入数据的id
if err != nil {
fmt.Printf("get lastinsert ID failed, err:%v\n", err)
return
}
fmt.Printf("insert success, the id is %d.\n", theID)
}
// 更新数据
func updateRowDemo() {
sqlStr := "update user set age=? where id = ?"
ret, err := db.Exec(sqlStr, 39, 6)
if err != nil {
fmt.Printf("update failed, err:%v\n", err)
return
}
n, err := ret.RowsAffected() // 操作影响的行数
if err != nil {
fmt.Printf("get RowsAffected failed, err:%v\n", err)
return
}
fmt.Printf("update success, affected rows:%d\n", n)
}
// 删除数据
func deleteRowDemo() {
sqlStr := "delete from user where id = ?"
ret, err := db.Exec(sqlStr, 6)
if err != nil {
fmt.Printf("delete failed, err:%v\n", err)
return
}
n, err := ret.RowsAffected() // 操作影响的行数
if err != nil {
fmt.Printf("get RowsAffected failed, err:%v\n", err)
return
}
fmt.Printf("delete success, affected rows:%d\n", n)
}
func DbClose(){
Db.Close()
}
事务操作
对于事务操作,我们可以使用sqlx中提供的db.Beginx()和tx.MustExec()方法来简化错误处理过程。示例代码如下:
func transactionDemo() {
tx, err := db.Beginx() // 开启事务
if err != nil {
if tx != nil {
tx.Rollback()
}
fmt.Printf("begin trans failed, err:%v\n", err)
return
}
sqlStr1 := "Update user set age=40 where id=?"
tx.MustExec(sqlStr1, 2)
sqlStr2 := "Update user set age=50 where id=?"
tx.MustExec(sqlStr2, 4)
err = tx.Commit() // 提交事务
if err != nil {
tx.Rollback() // 回滚
fmt.Printf("commit failed, err:%v\n", err)
return
}
fmt.Println("exec trans success!")
}
封装(sqlx不支持预处理简写 如果要使用预处理还是类似原生写法)
package sql_x
import (
"fmt"
_ "github.com/go-sql-driver/mysql" // 只使用该包的init方法
"github.com/jmoiron/sqlx"
)
var Db *sqlx.DB
var err error
// 使用需要更改 init方法中的连接数据库的dsn
// 使用需要更改 type结构体即可
type User struct {
Id int
Name string
Age int
}
func init() {
// 连接数据库
dsn := "root:@tcp(127.0.0.1:3306)/sql_test"
Db, err = sqlx.Connect("mysql", dsn)
if err != nil {
panic(err)
}
// 设置最大连接数
Db.SetMaxOpenConns(10)
// 设置最大闲置连接数
Db.SetMaxIdleConns(2)
}
// 查询单条数据
func QueryOne(sql string, format ...interface{}) (interface{}, error) {
// 声明对象变量用于获取数据
var u User
// 获取单行数据
err = Db.Get(&u, sql, format...)
if err != nil {
fmt.Println("获取单行数据error")
return nil, err
}
return u, nil
}
// 多行查询
func QueryMany(sql string, format ...interface{}) (interface{}, error) {
// 声明切片 用来获取多行数据
var uList []User
// 获取多行数据
err = Db.Select(&uList, sql, format...)
if err != nil {
fmt.Println("获取多行数据error:", err)
return nil, err
}
return uList, nil
}
// 更新插入以及删除 支持事务
func UpdateInsertDelete(sql string, format ...interface{}) (interface{}, error) {
// 开始事务
Tx, err := Db.Beginx()
if err != nil {
fmt.Println("事务开启失败:", err)
return nil, err
}
// 执行对应的sql语句
res, err := Tx.Exec(sql, format...)
if err != nil {
fmt.Println("执行更新or插入or删除错误:", err)
Tx.Rollback()
return nil, err
}
// 如果是插入 则会返回对应的id值
theId, _ := res.LastInsertId()
if theId != 0 {
Tx.Commit()
return fmt.Sprintln("当前插入id为:", theId), nil
}
// 如果是更新删除 则返回对应的影响行数
n, _ := res.RowsAffected()
// 事务提交
Tx.Commit()
return fmt.Sprintln("当前语句影响行数:", n), nil
}
func DbClose() {
Db.Close()
}
注意事项
SQL中的占位符
不同的数据库中,SQL语句使用的占位符语法不尽相同。
数据库占位符语法
MySQL
?
PostgreSQL
$1, $2等
SQLite
? 和$1
Oracle
:name
SQL注入
我们任何时候都不应该自己拼接SQL语句!
这里我们演示一个自行拼接SQL语句的示例,编写一个根据name字段查询user表的函数如下:
// sql注入示例
func sqlInjectDemo(name string) {
sqlStr := fmt.Sprintf("select id, name, age from user where name='%s'", name)
fmt.Printf("SQL:%s\n", sqlStr)
var users []user
err := db.Select(&users, sqlStr)
if err != nil {
fmt.Printf("exec failed, err:%v\n", err)
return
}
for _, u := range users {
fmt.Printf("user:%#v\n", u)
}
}
此时以下输入字符串都可以引发SQL注入问题:
sqlInjectDemo("xxx' or 1=1#")
sqlInjectDemo("xxx' union select * from user #")
sqlInjectDemo("xxx' and (select count(*) from user) <10 #")