mysql/Java服务端对emoji的支持

原创 2018年04月17日 11:20:18

前言:

最近开发的iOS项目因为需要用户文本的存储,自然就遇到了emoji等表情符号如何被mysql DB支持的问题。困扰了数日,在就要绝望放弃的边缘,终于完成了转换和迁移。在此特别分析和整理,方便更多人。

 

问题描述:

如果UTF8字符集且是Java服务器的话,当存储含有emoji表情时,会抛出类似如下异常:

java.sql.SQLException: Incorrect string value: '\xF0\x9F\x92\x94' for column 'name' at row 1  
    at com.mysql.jdbc.SQLError.createSQLException(SQLError.java:1073)  
    at com.mysql.jdbc.MysqlIO.checkErrorPacket(MysqlIO.java:3593)  
    at com.mysql.jdbc.MysqlIO.checkErrorPacket(MysqlIO.java:3525)  
    at com.mysql.jdbc.MysqlIO.sendCommand(MysqlIO.java:1986)  
    at com.mysql.jdbc.MysqlIO.sqlQueryDirect(MysqlIO.java:2140)  
    at com.mysql.jdbc.ConnectionImpl.execSQL(ConnectionImpl.java:2620)  
    at com.mysql.jdbc.StatementImpl.executeUpdate(StatementImpl.java:1662)  
    at com.mysql.jdbc.StatementImpl.executeUpdate(StatementImpl.java:1581)

这就是字符集不支持的异常。因为UTF-8编码有可能是两个、三个、四个字节,其中Emoji表情是4个字节,而Mysql的utf8编码最多3个字节,所以导致了数据插不进去。

升级前需要考虑的问题:

如果你的项目要进行移动产品的用户文本的存储,将你的DB字符集从UTF8/GBK等传统字符集升级到utf8mb4将是势在必行。你可以通过应用层面转换emoji等特殊字符,以达到原DB的兼容,我认为可行,但是你可能走了弯路。

utf8mb4作为utf8的super set,完全向下兼容,所以不用担心字符的兼容性问题。切换中需要顾虑的主要影响是mysql需要重新启动(虽然mysql官方文档说可以动态修改配置,但是经过数次测试,还是需要重启才可生效),对于业务可用率的影响是需要考虑的大问题,这里就暂时不展开讨论了。

升级步骤:

1.utf8mb4的最低mysql版本支持版本为5.5.3+,若不是,请升级到较新版本。

mysql版本查看命令请看:查看mysql版本的四种方法;mysql安装步骤请看:Linux中升级Mysql到Mysql最新版本的方法
2.修改database、table和column字符集。参考以下语句:
ALTER DATABASE database_name CHARACTER SET = utf8mb4 COLLATE = utf8mb4_unicode_ci;
ALTER TABLE table_name CONVERT TO CHARACTER SET utf8mb4 COLLATE utf8mb4_unicode_ci;
ALTER TABLE table_name CHANGE column_name VARCHAR(191) CHARACTER SET utf8mb4 COLLATE utf8mb4_unicode_ci;
3.修改mysql配置文件my.cnf(windows为my.ini)

my.cnf一般在etc/mysql/my.cnf位置。找到后请在以下三部分里添加如下内容:

[client]
default-character-set = utf8mb4

[mysql]
default-character-set = utf8mb4

[mysqld]
character-set-client-handshake = FALSE
character-set-server = utf8mb4
collation-server = utf8mb4_unicode_ci
init_connect='SET NAMES utf8mb4'

4.重启 MySQL Server、检查字符集

1.)重启命令参考:/etc/init.d/mysql restart

2.)输入命令:mysql,进入mysql命令行(如果提示没权限,可以尝试输入mysql -uroot -p你的密码)

3.)在mysql命令行中输入:SHOW VARIABLES WHERE Variable_name LIKE 'character_set_%' OR Variable_name LIKE 'collation%';

检查是否如下:

+--------------------------+--------------------+
| Variable_name            | Value              |
+--------------------------+--------------------+
| character_set_client    | utf8mb4            |
| character_set_connection | utf8mb4            |
| character_set_database  | utf8mb4            |
| character_set_filesystem | binary            |
| character_set_results    | utf8mb4            |
| character_set_server    | utf8mb4            |
| character_set_system    | utf8              |
| collation_connection    | utf8mb4_unicode_ci |
| collation_database      | utf8mb4_unicode_ci |
| collation_server        | utf8mb4_unicode_ci |
+--------------------------+--------------------+
rows in set (0.00 sec)

特别说明下:collation_connection/collation_database/collation_server如果是utf8mb4_general_ci,没有关系。但必须保证character_set_client/character_set_connection/character_set_database/character_set_results/character_set_server为utf8mb4。关于这些字符集配置是干什么用的,有什么区别,请参考:深入Mysql字符集设置

5.如果你用的是java服务器,升级或确保你的mysql connector版本高于5.1.13,否则仍然无法使用utf8mb4
这是mysql官方release note,大家可以查看说明,并下载最新的mysql connector for java的jar包。
这里为大家提供一个:mysql-connector-java-5.1.31-bin.jar
同时记得修改pom配置哦~

6.检查你服务端的db配置文件:

 

jdbc.driverClassName=com.mysql.jdbc.Driver
jdbc.url=jdbc:mysql://localhost:3306/database?useUnicode=true&characterEncoding=utf8&autoReconnect=true&rewriteBatchedStatements=TRUE
jdbc.username=root
jdbc.password=password

 

特别说明其中的jdbc.url配置:如果你已经升级好了mysql-connector,其中的characterEncoding=utf8可以被自动被识别为utf8mb4(当然也兼容原来的utf8),而autoReconnect配置我强烈建议配上,我之前就是忽略了这个属性,导致因为缓存缘故,没有读取到DB最新配置,导致一直无法使用utf8mb4字符集,多么痛的领悟!!

Microsoft .NET 框架和 Visual Studio.NET 中的 SOAP

Microsoft .NET 框架和 Visual Studio.NET 中的 SOAPKeith Ballinger,ASP.NET Web Services 项目规划经理 Jonathan Haw...
  • x86
  • x86
  • 2001-02-08 09:32:00
  • 1504

Java、mysql支持emoji表情

mysql库 utf8mb4的最低mysql版本支持版本为5.5.3 Java Mysql连接最低为 mysql mysql-connector-ja...
  • u012333307
  • u012333307
  • 2016-12-24 14:45:25
  • 757

阿里云RDS MySQL主机配置支持emoji

最近做了一次数据迁移,将传统机房的MySQL转到阿里云; 一方面是基于数据安全性和维护成本考虑;另外一方面确实要也对原有的数据库进行功能升级; 老的数据库版本是5.1.x,只支持utf-8格式的编...
  • herestay
  • herestay
  • 2016-10-13 17:45:16
  • 2105

Java Mysql Emoji 配置

关键:把 Mysql 的字符集从 utf8 改为 utf8mb4...
  • kinginblue
  • kinginblue
  • 2016-09-05 23:43:32
  • 2871

Mysql支持emoji 表情符号 升级编码为UTF8MB4

为了应对无线互联网的机遇和挑战、避免 emoji 表情符号带来的问题、涉及无线相关的 MySQL 数据库建议都提前采用 utf8mb4 字符集。注意Mysql5.5.3以上的版本才支持。 本文描述...
  • glory1234work2115
  • glory1234work2115
  • 2016-04-28 17:06:00
  • 1027

MySQL/Java服务端对emoji的支持

原帖位置:https://segmentfault.com/a/1190000000616820,对其进行了一定规范化编辑。 前言: 最近开发的iOS项目因为需要用户文本的存储,自然就遇到...
  • chaiyu2002
  • chaiyu2002
  • 2016-12-30 11:56:38
  • 125

使mac版的MYSQL支持emoji表情

是mac版mysql支持emoji表情
  • bcqd1211
  • bcqd1211
  • 2016-12-29 11:32:18
  • 695

MySQL中支持emoji表情的存储

由于需要实现emoji表情评论的功能,所以数据库需要支持emoji表情的存储,根据查询的资料最终实现了该功能,现将实现的过程以及过程遇到的一些问题记录下来,供大家参考和交流。 mysql的utf8编...
  • u013145194
  • u013145194
  • 2016-05-28 23:27:08
  • 22406

Mysql5.7支持emoji表情设置

1.找到my.ini打开修改如下(有则修改,无则添加) [client] # 客户端来源数据的默认字符集 default-character-set = utf8mb4 [mysqld] # 服务...
  • a7779486
  • a7779486
  • 2016-09-18 11:54:38
  • 1904

mysql数据库如何支持emoji表情

mysql数据库的默认字符集utf8,只能存储3个字节的数据。标准的emoji表情是4个字节,在APP端输入保存表情是用户的普遍需求和行为。      插入数据库报错如下:    java.sq...
  • ggibenben1314
  • ggibenben1314
  • 2017-02-21 18:11:12
  • 5010
收藏助手
不良信息举报
您举报文章:mysql/Java服务端对emoji的支持
举报原因:
原因补充:

(最多只允许输入30个字)