在生成环境中,会经常碰到Mysql字符的设置问题,个人也总结下。
如果在应用开始阶段没有正确的设置字符集,在运行一段时间以后才发现存在不能满足要求需要调整,那么就需要进行字符集的修改。字符集的修改不能直接通过alter dataabase character set ***; 或者 alter table tablename character set ***; 命令进行,这两个命令都没有更新已有记录的字符集,而只是对新创建的表或者记录生效。
在笔者的数据库最为常用的是latin1、utf8,由于项目的整合,字符的要求也开始规范,统一为utf8,那么就需要把之前的latin1字符转换成才utf8格式,那样才不会出现乱码的情况。已有的记录的字符集调整,需要先将数据导出,经过适当的调整重新导入后才可完成。
以下模拟的是将latin1字符集的数据库修改成GBK字符集的数据库的过程。操作较为简单,只要花的时间是在导入和导出数据。下面就来简单的介绍Mysql字符变量和latin1转换到utf8的过程,大家可以根据自己实际情况,举一反三。
一、MySQL字符集设置
• 系统变量:
– character_set_server:默认的内部操作字符集
– character_set_client:客户端来源数据使用的字符集
– character_set_connection:连接层字符集
– character_set_results:查询结果字符集
– character_set_database:当前选中数据库的默认字符集
– character_set_system:系统元数据(字段名等)字符集
– 还有以collation_开头的同上面对应的变量,用来描述字符序。
• 用introducer指定文本字符串的字符集:
– 格式为:[_charset] ‘string’ [COLLATE collation]
– 例如:
• SELECT _latin1 ‘string’;
• SELECT _utf8 ‘你好’ COLLATE utf8_general_ci;
–由introducer修饰的文本字符串在请求过程中不经过多余的转码,直接转换为内部字符集处理。
二、MySQL中的字符集转换过程
1. MySQL Server收到请求时将请求数据从character_set_client转换为character_set_connection;
2. 进行内部操作前将请求数据从character_set_connection转换为内部操作字符集,其确定方法如下:
• 使用每个数据字段的CHARACTER SET设定值;
• 若上述值不存在,则使用对应数据表的DEFAULT CHARACTER SET设定值(MySQL扩展,非SQL标准);
• 若上述值不存在,则使用对应数据库的DEFAULT CHARACTER SET设定值;
• 若上述值不存在,则使用character_set_server设定值。
3. 将操作结果从内部操作字符集转换为character_set_results。
三、latin1转换到utf8
以原来的字符集为latin1为例,升级成为utf8的字符集。原来的表: databasename (default charset=latin1),新表:new_databasename(default charset=utf8)。
- mysql> show create database databasename;
- +--------------+-------------------------------------------------------------------------+
- | Database | Create Database |
- +--------------+-------------------------------------------------------------------------+
- | databasename | CREATE DATABASE `databasename` /*!40100 DEFAULT CHARACTER SET latin1 */ |
- +--------------+-------------------------------------------------------------------------+
- 1 row in set (0.00 sec)
- mysqldump -uroot -p --default-character-set=utf8 -d databasename > createtab.sql
其中--default-character-set=utf8 表示设置以什么字符集连接, -d 表示只导出表结构,不导出数据。
2>修改 createtab.sql 中表结构定义中的字符集为新的字符集。
- sed -i s/CHARSET=latin1/CHARSET=utf8/g `grep -rl "CHARSET=latin1" createtab.sql `
3>确保记录不再更新,导出所有记录。
- mysqldump -uroot -p --no-create-info databasename > data.sql
可选参数:
--quick: 该选项用于转储大的表。 它强制 mysqldump 从服务器一次一行地检索表中的行而不是 检索所有行,并在输出前将它缓存到内存中。
--extended-insert: 使用包括几个 values 列表的多行insert语法,这样使转储文件更小,重载文件时可以加速插入。
--no-create-info: 不写重新创建每个转储表的create table 语句。
--default-character-set=latin1: 按照原有的字符集导出所有数据,这样导出的文件中,所有中文都是可见的,不会保存成乱码。不添加该参数以默认字符导出。
4>打开data.sql,将 set names latin1 修改成 set names utf8 。
- sed -i s/CHARSET=latin1/CHARSET=utf8/g `grep -rl "CHARSET=latin1" data.sql `
(PS:sed工作效率是非常高的,在测试中60G的数据4分钟就转换完毕了)
5>使用新的字符集创建新的数据库。
- create database new_databasename default charset utf8;
6>创建表,执行 createtab.sql
- mysql -uroot -p new_databasename < createtab.sql
7>导入数据,执行data.sql
- mysql -uroot -p new_databasename < data.sql
- mysql> show create database new_databasename;
- +------------------+-----------------------------------------------------------------------------+
- | Database | Create Database |
- +------------------+-----------------------------------------------------------------------------+
- | new_databasename | CREATE DATABASE `new_databasename` /*!40100 DEFAULT CHARACTER SET utf8 */ |
- +------------------+-----------------------------------------------------------------------------+
- 1 row in set (0.00 sec)
- mysql> show create table type;
- +-------+------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+
- | Table | Create Table |
- +-------+------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+
- | type | CREATE TABLE `type` (
- `id` int(10) NOT NULL AUTO_INCREMENT,
- `Name` varchar(100) CHARACTER SET gb2312 NOT NULL,
- PRIMARY KEY (`id`)
- ) ENGINE=MyISAM AUTO_INCREMENT=17 DEFAULT CHARSET=utf8 |
- +-------+------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------+
- 1 row in set (0.00 sec)
注意:选择字符集的时候,要注意最好是源字符的超级,或者确定比源字符集的字库更大。