iconv 判断字符编码_使用iconv进行编码gb2312转utf8 转码失败及解决

使用背景

项目中使用thrift进行C#程序调用c++接口，其中的协议是通过json进行传输的，由于默认thrift使用utf8进行传输，而C#和c++程序都默认使用多字节的编码方式，所以在传输前就需要对编码进行utf8的转换，而在接收处理的时候再转换成gb2312。

问题

bug发生在一个文件路径上面，包含文件路径就会导致c++端无法解析，但是纯中文和英文及不同字符都没有问题，所以一开始未怀疑是编码问题，经过调试最终确定问题在iconv转码上，在转码的时候转换失败，导致返回结果为空。

分析

文件名为"1癵鰢⑷｝·ˇ々.mp4"，其中包含有特殊汉字和字符，猜测为字符集无法表示导致转码失败。

解决

网上查询确实存在该问题，建议将编码gb2312换成 gb18030 以支持更多字符。

原来的转码函数

std::string ConvertCode::gbk2utf8(const std::string& strGbk)

{

return code_convert("gb2312", "utf-8", strGbk);

}

转变以后测试正常

std::string ConvertCode::gbk2utf8(const std::string& strGbk)

{

return code_convert("gb18030", "utf-8", strGbk);

}

附iconv转变函数

std::string ConvertCode::code_convert(char *source_charset, char *to_charset, const std::string& sourceStr)

{

iconv_t cd = iconv_open(to_charset, source_charset);//获取转换句柄，void*类型

if (cd == 0)

return "";

size_t inlen = sourceStr.size();

if (inlen == 0)

return "";

size_t outlen = inlen*2+1;

const char* inbuf = (char*)sourceStr.c_str();

char* outbuf = (char*)malloc(outlen);

memset(outbuf, 0, outlen);

char *poutbuf = outbuf; //多加这个转换是为了避免iconv这个函数出现char(*)[255]类型的实参与char**类型的形参不兼容

if (iconv(cd, &inbuf, &inlen, &poutbuf, &outlen) == -1)

return "";

std::string strTemp(outbuf);//此时的strTemp为转换编码之后的字符串

iconv_close(cd);

return strTemp;

}