多字节 unicode和utf-8的转换

本来在网上能找到很多这方面的代码，但很多都是转帖，且很多细节让人理解起来很别扭，估计有的
转帖的也是不知所云。

虽说就两个Windows API的调用，但只有自己去写代码测试研究，才真正领会了这些细节。文中注释有写的不当的欢迎指正。

下面是我写的测试程序:

#include "stdafx.h"
#include <windows.h>
#include <locale.h>

/* MultiByteToWideChar和WideCharToMultiByte每个都调用了两次，
   第一次转换是为了得到转换后所需的长度 */
void TestMultiToWideChar()
{
	do 
	{
		/* 这里的szBuffer中的内容在中文Windows下默认用的是GB2312编码，也可以说是MBCS编码,
		有几个概念一直让人模糊，今天算是搞清楚了，GB2312编码，MBCS编码，ANSI编码，
		其实这三种编码是同一种编码格式，GB2312是专门针对中文的，是ANSI编码在中文系统下
		的别称，在日文系统下，ANSI就叫JIS了，而MBCS意思就是多字节编码，对于ASCII码，采用一个字节，
		对于中文采用两个字节，所以也叫MBCS，还有DBCS，在中文Windows下，就是GB2312，双字节编码。
		哎，名字太多了 */
		char szBuffer[32] = "赵武涛"; 
		printf("szBuffer = %s\n", szBuffer);

		/* MSDN关于CP_ACP的阐释： The current system Windows ANSI code page.
		 注意这里的CP_ACP表示转换要用到的CodePage类型，因为这里的szBuffer在中文Windows下
		是GB2312编码，所以这里用ANSI这个codePage就行了，GB2312就是ANSI编码的一种， 
		MultiByteToWideChar和WideCharToMultiByte这两个API的参数意义参考MSDN即可 */

		/* 第四个参数设为-1，MSDN里的解释为If this parameter is -1, the function processes the entire 
		input string, including the null terminator. Therefore, the resulting wide character string 
		has a null terminator, and the length returned by the function includes the terminating null character.
		也就是说，如果设为-1, 表示系统处理整个szBuffer里的内容，包括NULL结束符，并且返回值包括一个NULL结束符占的长度。
		最后一个参数设为0，MSDN里的解释为If this parameter is set to 0, the function returns the required buffer
		size for lpMultiByteStr and makes no use of the output parameter itself. 
		也就是说，设为0表示返回值是转换所需的WCHAR缓冲区长度，包括NULL结束符*/

		int nLen = MultiByteToWideChar(CP_ACP, 0, szBuffer, -1, NULL, 0);
		if (nLen == 0) // 这里的nlen的长度以WCHAR为单位，及两个字节为单位
		{
			printf("errorCode = %d\n", GetLastError());
			break;
		}

		WCHAR *pwszBuffer = new WCHAR[nLen];
		nLen = MultiByteToWideChar(CP_ACP, 0, szBuffer, -1, pwszBuffer, nLen);
		if (nLen == 0)
		{
			printf("errorCode = %d\n", GetLastError());
			break;
		}

		// pwszBuffer在内存中的字节序为75 8d 66 6b 9b 6d 00 00，结尾的NULL字符也占两个字节
		wprintf(L"pwszBuffer = %s\n", pwszBuffer);

		delete []pwszBuffer;
	} while (false);
}

void TestWideToMultiChar()
{
	do 
	{
		WCHAR wszBuffer[32] = L"赵武涛";

		int nLen = WideCharToMultiByte(CP_ACP, 0, wszBuffer, -1, NULL, 0, NULL, NULL);
		if (nLen == 0) // 这里的nLen以一个字节为单位
		{
			printf("errorCode = %d\n", GetLastError());
			break;
		}

		char *pszBuffer = new char[nLen];
		nLen = WideCharToMultiByte(CP_ACP, 0, wszBuffer, -1, pszBuffer, nLen, NULL, NULL);
		if (nLen == 0)
		{
			printf("errorCode = %d\n", GetLastError());
			break;
		} 

		printf("pszBuffer = %s\n", pszBuffer);
		delete []pszBuffer;
	} while (false);
}

/* 这个函数间接囊括了UNICODE到UTF8的转换和UTF8到UNICODE的转换,
   网上很多帖子对这个转换为什么要进行两次转换基本没有说明 */
void TestMultiToUTF8()
{
	do 
	{
		/* 这个方法里，要先把GB2312字符串转换成UNICODE编码，再用UNICODE转UTF8,
		因为没有一种CodePage可以直接将GB2312转换成UTF8，所以这里就要先转UNICODE，再
		通过CP_UTF8进行转换，UTF8可以视为一种变长的多字节编码，虽说UTF8是对UNICODE字符集
		执行的一种编码形式，但其编码是采用1~6字节变长编码，所以可以视为多字节编码 */
		char szBuffer[32] = "赵武涛";
		int nLen = MultiByteToWideChar(CP_ACP, 0, szBuffer, -1, NULL, 0);
		if (nLen == 0) // nLen is in WCHAR values
		{
			printf("errorCode = %d\n", GetLastError());
			break;
		}

		WCHAR *pwszBuffer = new WCHAR[nLen];
		nLen = MultiByteToWideChar(CP_ACP, 0, szBuffer, -1, pwszBuffer, nLen);
		if (nLen == 0)
		{
			printf("errorCode = %d\n", GetLastError());
			break;
		}

		wprintf(L"pwszBuffer = %s\n", pwszBuffer);

		// 再转换成UTF-8编码
		// 刚开始用这两个API时，对这个CodePage的认识很模糊，为什么有的地方用CP_UTF8，有的用CP_ACP
		nLen = WideCharToMultiByte(CP_UTF8, 0, pwszBuffer, -1, NULL, 0, NULL, NULL);
		if (nLen == 0) // nLen is in bytes values
		{
			printf("errorCode = %d\n", GetLastError());
			break;
		}

		char *pszBuffer = new char[nLen];
		nLen = WideCharToMultiByte(CP_UTF8, 0, pwszBuffer, -1, pszBuffer, nLen, NULL, NULL);
		if (nLen == 0)
		{
			printf("errorCode = %d\n", GetLastError());
			break;
		} 

		/* 下面的代码只是测试，再将此UTF-8字符串转换成Unicode，看看输出结果, 注意
		这里用的CodePage还是CP_UTF8，因为只有这个CodePage能在UTF8和Unicode间进行互转换，它
		表示的意思并不是转换目标的编码，而是当前转换需要用到这个CodePage */
		nLen = MultiByteToWideChar(CP_UTF8, 0, pszBuffer, -1, NULL, 0);
		if (nLen == 0) // nLen is in bytes values
		{
			printf("errorCode = %d\n", GetLastError());
			break;
		}

		WCHAR *pwszBuf2 = new WCHAR[nLen];
		nLen = MultiByteToWideChar(CP_UTF8, 0, pszBuffer, -1, pwszBuf2, nLen);
		if (nLen == 0) // nLen is in bytes values
		{
			printf("errorCode = %d\n", GetLastError());
			break;
		}

		wprintf(L"pwszBuf2 = %s\n", pwszBuf2);
		delete []pwszBuf2;
		delete []pwszBuffer;
	} while (false);
}

int _tmain(int argc, _TCHAR* argv[])
{
	// 这里设置locale是为了wprintf能正确的输出宽字符类型的中文
	setlocale(LC_ALL, "chs");
	
	TestMultiToWideChar();

	TestWideToMultiChar();

	TestMultiToUTF8();

	return 0;
}