方法1:base_encode64
這種方法是可以,但是舊數據沒有經過encode操作,取數據的時候如果統一進行decode的話,舊數據會丟失的。
方法2:urlencode
這個似乎可以,對沒有經過encode的數據進行decode也不會有影響,而且多次decode似乎也不會有影響。你們說這個方法有缺陷嗎?
=======================
一個發現,微信獲取用戶基本信息的時候,笑哭那個表情print_r出的是\ud83d\ude02,而我存儲的時候,報錯說這個 \xF0\x9F\x98\x82 值不能存儲,請問這是怎么回事,自動轉碼了,轉成的這是什么?是微信轉碼過了嗎?
=======================
方法3:采用了下面采納的那個方法,因為我覺得它有下面幾個優點:
1、那個方法只轉換表情,不會轉換中文,所以數據還是直接可讀的
數據庫中存儲起來是這樣的,如何轉義emoji表情,讓它可以存入utf8的數據庫
后面的\ud83d\udca5可以隨意復制粘貼,而顯示出來是這樣的, 如何轉義emoji表情,讓它可以存入utf8的數據庫
2、不會把表情轉換為其它標准,只有一個簡單的,固定的轉換算法,也就是說不需要一個表情庫來對照着轉換,所以以后其它人要使用這個數據的時候,也很容易知道每個表情是對應的哪個。就算蘋果大爺又增加了表情,也不需要做什么額外的修改。
3、可以無限decode輸出的都是正確的內容。因為有的時候可能需要在一次請求中的兩個地方做decode,其它decode多次會把正確的數據改成其它數據,這個不會。
缺點:
1、看了下面的代碼就知道,這個是強制修改字符編碼中,指定區間內的編碼,也就說有可能誤殺,也有可能有超出這個區間的emoji沒殺到。不過僅僅是在字符前加反斜杠,即使誤殺了,發現之后也很容易改回來。
數據庫中發現有這樣的 ,是漏殺了,但是不知道為什么,這個可以直接存數據庫。
/**
把用戶輸入的文本轉義(主要針對特殊符號和emoji表情)
*/
function userTextEncode($str){
if(!is_string($str))return $str;
if(!$str || $str=='undefined')return '';
$text = json_encode($str); //暴露出unicode
$text = preg_replace_callback("/(\\\u[ed][0-9a-f]{3})/i",function($str){
return addslashes($str[0]);
},$text); //將emoji的unicode留下,其他不動,這里的正則比原答案增加了d,因為我發現我很多emoji實際上是\ud開頭的,反而暫時沒發現有\ue開頭。
return json_decode($text);
}
/**
解碼上面的轉義
*/
function userTextDecode($str){
$text = json_encode($str); //暴露出unicode
$text = preg_replace_callback('/\\\\\\\\/i',function($str){
return '\\';
},$text); //將兩條斜杠變成一條,其他不動
return json_decode($text);
}
//處理名字的emoji符號
$tmpStr = json_encode($text); //暴露出unicode
$tmpStr = preg_replace("#(\\\ue[0-9a-f]{3})#ie","addslashes('\\1')",$tmpStr); //將emoji的unicode留下,其他不動
$text = json_decode($tmpStr);
return $text;
方法4: 一個標准的解決方案:
1、mysql的版本必須為v5.5.3或更高
2、把數據庫的編碼改成utf8mb4 -- UTF-8 Unicode
3、然后需要存儲emoji表情的字段選擇utf8mb4_general_ci
4、數據庫連接也需要改為utf8mb4
設置完成后,應該可以看到如下類似字符集設置結果。那么可以直接的存入數據庫,無需做任何額外的事情了。
mysql> SHOW VARIABLES WHERE Variable_name LIKE 'character\_set\_%' OR Variable_name LIKE 'collation%';
+--------------------------+--------------------+
| Variable_name | Value |
+--------------------------+--------------------+
| character_set_client | utf8mb4 |
| character_set_connection | utf8mb4 |
| character_set_database | utf8mb4 |
| character_set_filesystem | binary |
| character_set_results | utf8mb4 |
| character_set_server | utf8mb4 |
| character_set_system | utf8 |
| collation_connection | utf8mb4_unicode_ci |
| collation_database | utf8mb4_unicode_ci |
| collation_server | utf8mb4_unicode_ci |
+--------------------------+--------------------+
我在做微信公眾平台開發時遇到過這個問題,微信用戶的昵稱可以包含表情(坑爹- -!)。於是我就將整個昵稱轉換成HEX字符串存在MySQL中,目前用戶1W+,系統穩定,題主可以參考一下此方案。
MySQL支持hex() and unhex()函數。Java可以使用org.apache.commons.codec.binary.Hex工具類。其他語言也有相應的方法。
![這里寫圖片描述](https://img-blog.csdn.net/20160612155302911)
試試微博或qq里面的那種方式?用簡單的編碼來映射,比如微笑可以用 [wx] 或 /wx 。不過表情多了之后4個字符不怎么夠用。。。
urldecode
我看了一下 decode 的源碼,應該是不會出現問題。
只要沒有 % 解碼后肯定還是原來的字符(串),有 % 會出現兩種情況,一種是解碼成功,這個時候肯定就不是原來的字符串了,一種是解碼失敗,拋出異常(其實這個異常可以作為是否 encode的標准)。
解碼還算是比較嚴格吧,作為用戶名的情況下 出現 % 還解碼成功的概率比較小吧,對於這部分你可以手動改數據庫,應該不會有很多。
你試試這個函數,之前弄微信自定義菜單的時候,也接觸過Emoji表情,當時看到用的這個函數把Emoji表情的編碼給轉換了。
function utf8_bytes($cp) {
if ($cp > 0x10000){
# 4 bytes
return chr(0xF0 | (($cp & 0x1C0000) >> 18)).
chr(0x80 | (($cp & 0x3F000) >> 12)).
chr(0x80 | (($cp & 0xFC0) >> 6)).
chr(0x80 | ($cp & 0x3F));
}else if ($cp > 0x800){
# 3 bytes
return chr(0xE0 | (($cp & 0xF000) >> 12)).
chr(0x80 | (($cp & 0xFC0) >> 6)).
chr(0x80 | ($cp & 0x3F));
}else if ($cp > 0x80){
# 2 bytes
return chr(0xC0 | (($cp & 0x7C0) >> 6)).
chr(0x80 | ($cp & 0x3F));
}else{
# 1 byte
return chr($cp);
}
}
我這個剛解決的這個問題(后端是java實現的,數據庫Mysql),供參考。
1、修改存儲emoji字段編碼,例如放在username字段中:
ALTER TABLE user CHANGE username username VARCHAR(128) CHARACTER SET utf8mb4 COLLATE utf8mb4_unicode_ci default null;
2、java在執行數據庫插入、更新操作前,要先執行 sql語句"set names utf8mb4" 語句。
使用BOLO類型
將數據庫編碼改為 utf8mb4
https://github.com/iamcal/php-emoji
我是用這個處理的~
http://www.emoji-cheat-sheet.com/
有一種編碼叫 utfmb4,支持 4 位長度的 utf8 編碼
喏,你的 MySQL 版本必須為 5.5 以上的
不用轉,直接數據庫轉成utf8mb4, 我以前就是這么干的
不用更改整個數據庫的把。。。create xxx() charset=utf8mb4 單表 utf8mb4就行了把
因為我的項目中需要對字數有限制的需求,涉及到逐字計數,在這基礎上我增加了emoji的功能完美實現。你需要代碼的話請再告訴我,我提供給你。
方法5 干掉emoji表情
emoji表情是個麻煩的東西,即使你能存儲,也不一定能完美顯示。在iOS以外的平台上,例如PC或者android。如果你需要顯示emoji,就得准備一大堆emoji圖片並使用第三方前端類庫才行。即便如此,還是可能因為emoji圖片不夠全而出現無法顯示的情況
在大多數業務場景下,emoji也不是非要不可的。我們可以適當地考慮干掉它,節約各種成本
經過一番苦苦的google,終於找到靠譜能用的代碼:
// 過濾掉emoji表情
function filterEmoji(str)
{str = preg_replace_callback(
‘/./u’,
function (array match)returnstrlen($match[0])>=4?″:$match[0];,str);
return $str;
}
基本思想就是遍歷字符串中的每個字符,如果該字符的長度為4個字節,就將其刪除。
轉載自:pein0119