C#解决读写包含汉字的txt文件时乱码的问题

为了解决这个问题，我写了一个类，来取得一个文本文件的encoding，这样我们就可以创建对应的StreamReader和StreamWriter来读写，保证不会出现乱码现象。其实原理很简单，文本编辑器(比如XP自带的记事本)在生成文本文件时，如果编码格式和系统默认的编码(中文系统下默认为GB2312)不一致时，会在txt文件开头部分添加特定的;编码字节序标识(Encoding Bit Order Madk，简写为BOM)”，类似PE格式的"MZ"文件头。这样它在读取时就可以根据这个BOM来确定该文本文件生成时所使用的Encoding。这个BOM我们用记事本等程序打开默认是看不到的，但是用stream按字节读取时是可以读到的。我的这个TxtFileEncoding类就是根据这个BOM;文件头” 来确定txt文件生成时用到的编码的。
由于在GB2312和UTF7编码都没有BOM，所以需要指定一个默认的Encoding，在找不到合法的BOM时，将返回这个Encoding。有谁知道如何区分GB2312和UTF7编码txt文件的方法，也请告诉我。
由于只是static方法，所以不用new，直接通过类名调用方法，使用起来也很简单。

1. using System; 
2. using System.Text; 
3. using System.IO; 
4. namespace System.Shangfei.Text 
5. { 
6.   /// 
7.   /// 用于取得一个文本文件的编码方式(Encoding)。 
8.   /// 
9.   public class TxtFileEncoding 
10.   { 
11.     public TxtFileEncoding() 
12.     { 
13.     } 
15.     /// <summary>
16.     /// 取得一个文本文件的编码方式。如果无法在文件头部找到有效的前导符，Encoding.Default将被返回。 
17.     /// </summary>
18.     /// <param name="fileName">文件名。</param>
19.     /// <returns></returns>
20.     public static Encoding GetEncoding(string fileName) 
21.     { 
22.       return GetEncoding(fileName, Encoding.Default); 
23.     } 
25.     /// <summary>
26.     /// 取得一个文本文件流的编码方式。
27.     /// </summary>
28.     /// <param name="stream">文本文件流。</param>
29.     /// <returns></returns>
30.     public static Encoding GetEncoding(FileStream stream) 
31.     { 
32.       return GetEncoding(stream, Encoding.Default); 
33.     } 
35.     /// <summary>
36.     /// 取得一个文本文件的编码方式。 
37.     /// </summary>
38.     /// <param name="fileName">文件名。</param>
39.     /// <param name="defaultEncoding">默认编码方式。当该方法无法从文件的头部取得有效的前导符时，将返回该编码方式。 </param>
40.     /// <returns></returns>
41.     public static Encoding GetEncoding(string fileName, Encoding defaultEncoding) 
42.     { 
43.       FileStream fs = new FileStream(fileName, FileMode.Open); 
44.       Encoding targetEncoding = GetEncoding(fs, defaultEncoding); 
45.       fs.Close(); 
46.       return targetEncoding; 
47.     } 
49.     /// <summary>
50.     /// 取得一个文本文件流的编码方式。 
51.     /// </summary>
52.     /// <param name="stream">文本文件流。 </param>
53.     /// <param name="defaultEncoding">默认编码方式。当该方法无法从文件的头部取得有效的前导符时，将返回该编码方式。 </param>
54.     /// <returns></returns>
55.     public static Encoding GetEncoding(FileStream stream, Encoding defaultEncoding) 
56.     { 
57.       Encoding targetEncoding = defaultEncoding; 
58.       if(stream != null && stream.Length>= 2) 
59.       { 
60.         //保存文件流的前4个字节 
61.         byte byte1 = 0; 
62.         byte byte2 = 0; 
63.         byte byte3 = 0; 
64.         byte byte4 = 0; 
65.         //保存当前Seek位置 
66.         long origPos = stream.Seek(0, SeekOrigin.Begin); 
67.         stream.Seek(0, SeekOrigin.Begin); 
69.         int nByte = stream.ReadByte(); 
70.         byte1 = Convert.ToByte(nByte); 
71.         byte2 = Convert.ToByte(stream.ReadByte()); 
72.         if(stream.Length>= 3) 
73.         { 
74.           byte3 = Convert.ToByte(stream.ReadByte()); 
75.         } 
76.         if(stream.Length >= 4) 
77.         { 
78.           byte4 = Convert.ToByte(stream.ReadByte()); 
79.         } 
80.         //根据文件流的前4个字节判断Encoding 
81.         //Unicode {0xFF, 0xFE}; 
82.         //BE-Unicode {0xFE, 0xFF}; 
83.         //UTF8 = {0xEF, 0xBB, 0xBF}; 
84.         if(byte1 == 0xFE && byte2 == 0xFF)//UnicodeBe 
85.         { 
86.           targetEncoding = Encoding.BigEndianUnicode; 
87.         } 
88.         if(byte1 == 0xFF && byte2 == 0xFE && byte3 != 0xFF)//Unicode 
89.         { 
90.           targetEncoding = Encoding.Unicode; 
91.         } 
92.         if(byte1 == 0xEF && byte2 == 0xBB && byte3 == 0xBF)//UTF8 
93.         { 
94.           targetEncoding = Encoding.UTF8; 
95.         } 
96.         //恢复Seek位置 
97.         stream.Seek(origPos, SeekOrigin.Begin); 
98.       } 
99.       return targetEncoding; 
100.     } 
101.   }
102. }

 

测试

1. using System; 
2. using Farproc.Text; 
3. using System.Text; 
4. using System.IO; 
5. namespace ConsoleApplication1 
6. { 
7.   /// 〈summary〉 
8.   /// Class1 的摘要说明。 
9.   /// 〈/summary〉 
10.   class Class1 
11.   { 
12.     /// 〈summary〉 
13.     /// 应用程序的主入口点。 
14.     /// 〈/summary〉 
15.     [STAThread] 
16.     static void Main(string[] args) 
17.     { 
18.       string fileName = @"e:/a.txt"; 
20.       //生成一个big endian Unicode编码格式的文本文件 
21.       StreamWriter sw = new StreamWriter(fileName, false, Encoding.BigEndianUnicode);//你可以试试其他编码，比如Encoding.GetEncoding("GB2312")或UTF8 
22.       sw.Write("这是一个String");
23.       sw.Close(); 
24.       //读取 
25.       Encoding fileEncoding = TxtFileEncoding.GetEncoding(fileName, Encoding.GetEncoding("GB2312"));//取得这txt文件的编码 
26.       Console.WriteLine("这个文本文件的编码为：" + fileEncoding.EncodingName); 
27.       StreamReader sr = new StreamReader(fileName, fileEncoding);//用该编码创建StreamReader 
28.       //用下面的方法虽然可以让系统自动判断文本文件的编码格式，但是我们无法取得该文本文件的编码 
29.       //sr.CurrentEncoding永远为 Unicode(UTF-8) 
30.       //StreamReader sr = new StreamReader(fileName, true); 
31.       //Console.WriteLine("这个文本文件的编码为：" + sr.CurrentEncoding.EncodingName); 
32.       Console.WriteLine("这个文本文件的内容为：" + sr.ReadToEnd()); 
33.       sr.Close(); 
34.       Console.ReadLine(); 
35.     } 
36.   } 
37. }

 

NET下的string永远是Unicode的，所以只能判断txt文件的Encoding。对于byte[]，只有自己知道它的Encoding才能转换为string 转换为其他编码的byte[]，一个例外是把整个txt文件通过stream读入byte[]后也可以根据它的前几个字节判断
Encoding，对于片断，我们就无能为力了:)