关闭

补充 - C++字符串完全指引

665人阅读 评论(0) 收藏 举报

补充 - C++字符串完全指引.htm(转载:http://blog.csdn.net/ecai/archive/2004/12/07/207148.aspx)

写了n年程序,近来在字符串上栽了。:( 认真的研究了一些关于字符串的文章,在此记下。

许多关于字符串的问题,在文章最后的参考文章中,相信有更加深入和精确的描述。不过关于中文的处理,我想先补充一些自己的看法。

背景:WIN32 console程序,使用printf输出字符串。相信许多人都有使用过。

平台:VisualStudio.NET 2003(MFC 7.1)。

 MBCS UNICODE
蔡 b2 cc 21 85
A 41 00 41 00

程序段1:使用std::string

#include <string>


{

// NOTE: use s1._Bx._Buf to see the memory

std::string s1 ("蔡"); // b2 cc 00

}

{

std::wstring s1(L"蔡"); // b2 00 cc 00 00 00

}

以上代码,不管使用MBCS还是_UNICODE编译,得到的结果都是一样的。因为string (实际上是basic_string)不会自动进行从MBCS到UNICODE的转换。所以使用printf或者wprintf输出即可。前提当然是你的系统需要支持中文。


让我们把代码修改一下,希望可以输出字符串的内容:

{
std::string s1 ("蔡"); // b2 cc 00
OutputDebugStringA(s1.c_str());
printf(s1.c_str());
}

{

std::wstring s1(L"蔡"); // b2 00 cc 00 00 00
OutputDebugStringW(s1.c_str());
wprintf(s1.c_str());
}

OutputDebugString实际上就是ATLTRACE()最后调用的函数,该函数向VisualStudio的Output窗口输出,而printf和wprintf向console窗口输出。最后的结果如何?OutputDebugStringW输出的是怪字符!!WHY?? s1.c_str()传递给OutputDebugStringW和wprintf不是都是内容相同的LPCWSTR吗?

1)因为OutputDebugStringW的字符串必须是真正UNICODE编码的字符串,而不是所有的const wchar_t*(即LPCWSTR)都可以得到正确结果。在这里s1虽然使用wchar_t类型,但是实际的内容却是MBCS编码。

2)反之亦然:CRT的wprintf只支持MBCS编码的字符串,而不能是UNICODE编码的字符串。在程序段2我们可以看到真正的UNICODE编码的字符串。

这是我多年来的一个误区:wchar_t类型的字符串就是UNICODE字符串。实际应该理解为UNICODE是16位的字符集,可以使用wchar_t类型进行存储。

 

程序段2:使用CString
请看程序后面的说明。


1.         ////////////////// START: compile with _UNICODE ///////////////////

2.         {

3.         CString s1 ("A"); // 41 00 00 00

4.         }

5.         {

6.         CString s1 (L"A"); // 41 00 00 00

7.         }

8.         {

9.         CString s1 (_T("A")); // 41 00 00 00

10.     }

11.     {

12.     CString s1 ("蔡"); // 21 85 00 00

13.     }

14.     {

15.     CString s1 (L"蔡"); // b2 00 cc 00 00 00

16.     }

17.     {

18.     CString s1 (_T("蔡")); // b2 00 cc 00 00 00

19.     }

20.     ////////////////// END: compile with _UNICODE ///////////////////

21.     ////////////////// START: compile with _MBCS ///////////////////

22.     {

23.     CString s1 ("A"); // 41 00

24.     }

25.     {

26.     CString s1 (L"A"); // 41 00

27.     }

28.     {

29.     CString s1 (_T("A")); // 41 00

30.     }

31.     {

32.     CString s1 ("蔡"); // b2 cc 00

33.     }

34.     {

35.     CString s1 (L"蔡"); // 32 a8 ac 00

36.     }

37.     {

38.     CString s1 (_T("蔡")); // b2 cc 00

39.     }

40.     ////////////////// END: compile with _MBCS ///////////////////


1)对于英文字母‘A’,MBCS和UNICODE的结果都是一样的

2)Line 15.    

CString s1 (L"蔡"); // b2 00 cc 00 00 00

得到的还是MBCS的字符串,只是增加了0作为trail byte。而不是我理解的UNICODE字符串!这是我多年来的另外一个误区:_T在_UNICODE下转换为L,而L后面的字符串是UNICODE编码。在参考资料MSDN的“TCHAR.H 中的一般文本映射”中(以及MSDN的许多地方),可以看到类似的说明:

一般文本数据类型映射

一般文本数据类型名 未定义 _UNICODE 或 _MBCS 已定义
_MBCS 已定义 _UNICODE
 
_TCHAR char char wchar_t
_TINT int int wint_t
_TSCHAR signed char signed char wchar_t
_TUCHAR unsigned char unsigned char wchar_t
_TXCHAR char unsigned char wchar_t
_T 或 _TEXT 无效(由预处理器移除) 无效(由预处理器移除) L(将后面的字符或字符串转换成相应的 Unicode 形式)

实际上L"xxx"只是通知编译器,我们需要的是wchar_t类型的字符串,而不能影响编码。

真正的UNICODE字符串在哪里?


3)Line 12:

等同于    CStringW s1 ("蔡"); // 21 85 00 00

我们看到,得到了真正的UNICODE 字符串。因为CString(在MFC 7.1中,不存在MFC的CString,实际上由ATL::CStringT通过typedef定义而得)的构造函数,在这里实际上是CStringW的构造函数,根据输入的参数是char类型字符串,会自动调用MultiByteToWideChar转换MBCS字符串为UNICODE字符串。

4)相应Line 12,那么Line 35得到的结果32 a8 ac 00是什么?和Line 12类似:

CString构造函数,在这里实际上是CStringA的构造函数,根据输入的参数是wchar_t类型字符串,会自动调用WideCharToMultiByte转换UNICODE字符串为MBCS字符串。但是根据2),我们知道,输入的参数不是UNICODE字符串,只是MBCS的wchar_t类型字符串,所以得到的是错误的编码。

 

总结以上,可知:

1)CRT不能生成和处理UNICODE类型字符串,对于wchar_t类型字符串,只能处理MBCS编码;

2)VC RunTime中带W后缀的函数,和所有的COM函数,对于wchar_t类型字符串,只能处理UNICODE编码;

3)如果不考虑输出,只是进行拷贝、比较等操作,只要注意_T的含义和字符串的字符类型长度就可以了;但是如果需要输出,必须注意字符串的编码转换。
4)使用UNICODE或者MBCS的编译选项,只是影响字符串的字符类型(自动识别_T,CString等,自动把函数转换为xxxxA()或者xxxxW()),不影响字符串的编码。下表的代码结果不受编译选项影响(这也是编译器处理_T,CString等后的结果):

CStringA s = "xxx"; // 等于 CA2A("xxx")
结果为SBCS(单字节编码)
printf()正确
OutputDebugStringA()正确 CStringW s = "xxx"; // 等于 CA2W("xxx")
结果为UNICODE编码
wprintf()错误
OutputDebugStringW()正确
CStringA s = L"xxx"; // 等于 CW2A(L"xxx")
结果为MBCS编码(可能错误)
printf()错误
OutputDebugStringA()错误 CStringW s = L"xxx"; // 等于 CW2W("xxx")
不改变字符串的编码,仍然是MBCS。
wprintf()正确
OutputDebugStringW()错误

疑问:我认为对于CW2W是由系统编码决定,可以直接得到UNICODE吗?

关于CW2A,如果后面的字符串的确是UNICODE编码,则可以得到正确的相应MBCS编码字符串。实际上,这也是我们要输出UNICODE的方法:

CStringW s = "蔡"; // s 现在是UNICODE编码

// wprintf(s)不正确

CW2A psz(s); // psz现在是s相应的正确的MBCS编码!

printf(psz); // 正确

// All is OK, a little more to say

CA2W wsz(psz); // wsz现在是psz的错误的UNICODE编码,即32 a8 ac 00

 

 

推荐参考资料

The Complete Guide to C++ Strings:个人认为很好和很全面的文章
The Complete Guide to C++ Strings, Part I - Win32 Character Encodings

http://www.codeproject.com/string/CPPStringGuide1.asp


The Complete Guide to C++ Strings, Part I - Win32 Character Encodings

http://www.codeproject.com/string/cppstringguide2.asp

这2篇是不错的中文翻译。 :)


C++字符串完全指引之一 —— Win32 字符编码
http://www.vckbase.com/document/viewdoc/?id=1082

C++字符串完全指引之二 —— 字符串封装类

http://www.vckbase.com/document/viewdoc/?id=1096

 

其它一篇
STL 字符串类与 UNICODE

http://www.vckbase.com/vckbase/default.aspx


当然,少不了MSDN

TCHAR.H 中的一般文本映射

http://msdn.microsoft.com/library/chs/default.asp?url=/library/CHS/vccore/html/_core_generic.2d.text_mappings_in_tchar..h.asp

建议:最好把整个“国际编程”目录看一次(虽然看完还是糊涂 :) )

http://msdn.microsoft.com/library/CHS/vccore/html/_core_International_Programming_Topics.asp


 

0
0

查看评论
* 以上用户言论只代表其个人观点,不代表CSDN网站的观点或立场
    个人资料
    • 访问:24542次
    • 积分:421
    • 等级:
    • 排名:千里之外
    • 原创:18篇
    • 转载:4篇
    • 译文:0篇
    • 评论:4条
    最新评论