为了解决这个问题,我写了一个类,来取得一个文本文件的encoding,这样我们就可以创建对应的StreamReader和StreamWriter来读写,保证不会出现乱码现象。其实原理很简单,文本编辑器(比如XP自带的记事本)在生成文本文件时,如果编码格式和系统默认的编码(中文系统下默认为GB2312)不一致时,会在txt文件开头部分添加特定的;编码字节序标识(Encoding Bit Order Madk,简写为BOM)”,类似PE格式的"MZ"文件头。这样它在读取时就可以根据这个BOM来确定该文本文件生成时所使用的Encoding。这个BOM我们用记事本等程序打开默认是看不到的,但是用stream按字节读取时是可以读到的。我的这个TxtFileEncoding类就是根据这个BOM;文件头” 来确定txt文件生成时用到的编码的。
由于在GB2312和UTF7编码都没有BOM,所以需要指定一个默认的Encoding,在找不到合法的BOM时,将返回这个Encoding。有谁知道如何区分GB2312和UTF7编码txt文件的方法,也请告诉我。
由于只是static方法,所以不用new,直接通过类名调用方法,使用起来也很简单。
- using System;
- using System.Text;
- using System.IO;
- namespace System.Shangfei.Text
- {
- ///
- /// 用于取得一个文本文件的编码方式(Encoding)。
- ///
- public class TxtFileEncoding
- {
- public TxtFileEncoding()
- {
- }
- /// <summary>
- /// 取得一个文本文件的编码方式。如果无法在文件头部找到有效的前导符,Encoding.Default将被返回。
- /// </summary>
- /// <param name="fileName">文件名。</param>
- /// <returns></returns>
- public static Encoding GetEncoding(string fileName)
- {
- return GetEncoding(fileName, Encoding.Default);
- }
- /// <summary>
- /// 取得一个文本文件流的编码方式。
- /// </summary>
- /// <param name="stream">文本文件流。</param>
- /// <returns></returns>
- public static Encoding GetEncoding(FileStream stream)
- {
- return GetEncoding(stream, Encoding.Default);
- }
- /// <summary>
- /// 取得一个文本文件的编码方式。
- /// </summary>
- /// <param name="fileName">文件名。</param>
- /// <param name="defaultEncoding">默认编码方式。当该方法无法从文件的头部取得有效的前导符时,将返回该编码方式。 </param>
- /// <returns></returns>
- public static Encoding GetEncoding(string fileName, Encoding defaultEncoding)
- {
- FileStream fs = new FileStream(fileName, FileMode.Open);
- Encoding targetEncoding = GetEncoding(fs, defaultEncoding);
- fs.Close();
- return targetEncoding;
- }
- /// <summary>
- /// 取得一个文本文件流的编码方式。
- /// </summary>
- /// <param name="stream">文本文件流。 </param>
- /// <param name="defaultEncoding">默认编码方式。当该方法无法从文件的头部取得有效的前导符时,将返回该编码方式。 </param>
- /// <returns></returns>
- public static Encoding GetEncoding(FileStream stream, Encoding defaultEncoding)
- {
- Encoding targetEncoding = defaultEncoding;
- if(stream != null && stream.Length>= 2)
- {
- //保存文件流的前4个字节
- byte byte1 = 0;
- byte byte2 = 0;
- byte byte3 = 0;
- byte byte4 = 0;
- //保存当前Seek位置
- long origPos = stream.Seek(0, SeekOrigin.Begin);
- stream.Seek(0, SeekOrigin.Begin);
- int nByte = stream.ReadByte();
- byte1 = Convert.ToByte(nByte);
- byte2 = Convert.ToByte(stream.ReadByte());
- if(stream.Length>= 3)
- {
- byte3 = Convert.ToByte(stream.ReadByte());
- }
- if(stream.Length >= 4)
- {
- byte4 = Convert.ToByte(stream.ReadByte());
- }
- //根据文件流的前4个字节判断Encoding
- //Unicode {0xFF, 0xFE};
- //BE-Unicode {0xFE, 0xFF};
- //UTF8 = {0xEF, 0xBB, 0xBF};
- if(byte1 == 0xFE && byte2 == 0xFF)//UnicodeBe
- {
- targetEncoding = Encoding.BigEndianUnicode;
- }
- if(byte1 == 0xFF && byte2 == 0xFE && byte3 != 0xFF)//Unicode
- {
- targetEncoding = Encoding.Unicode;
- }
- if(byte1 == 0xEF && byte2 == 0xBB && byte3 == 0xBF)//UTF8
- {
- targetEncoding = Encoding.UTF8;
- }
- //恢复Seek位置
- stream.Seek(origPos, SeekOrigin.Begin);
- }
- return targetEncoding;
- }
- }
- }
测试
- using System;
- using Farproc.Text;
- using System.Text;
- using System.IO;
- namespace ConsoleApplication1
- {
- /// 〈summary〉
- /// Class1 的摘要说明。
- /// 〈/summary〉
- class Class1
- {
- /// 〈summary〉
- /// 应用程序的主入口点。
- /// 〈/summary〉
- [STAThread]
- static void Main(string[] args)
- {
- string fileName = @"e:/a.txt";
- //生成一个big endian Unicode编码格式的文本文件
- StreamWriter sw = new StreamWriter(fileName, false, Encoding.BigEndianUnicode);//你可以试试其他编码,比如Encoding.GetEncoding("GB2312")或UTF8
- sw.Write("这是一个String");
- sw.Close();
- //读取
- Encoding fileEncoding = TxtFileEncoding.GetEncoding(fileName, Encoding.GetEncoding("GB2312"));//取得这txt文件的编码
- Console.WriteLine("这个文本文件的编码为:" + fileEncoding.EncodingName);
- StreamReader sr = new StreamReader(fileName, fileEncoding);//用该编码创建StreamReader
- //用下面的方法虽然可以让系统自动判断文本文件的编码格式,但是我们无法取得该文本文件的编码
- //sr.CurrentEncoding永远为 Unicode(UTF-8)
- //StreamReader sr = new StreamReader(fileName, true);
- //Console.WriteLine("这个文本文件的编码为:" + sr.CurrentEncoding.EncodingName);
- Console.WriteLine("这个文本文件的内容为:" + sr.ReadToEnd());
- sr.Close();
- Console.ReadLine();
- }
- }
- }
NET下的string永远是Unicode的,所以只能判断txt文件的Encoding。对于byte[],只有自己知道它的Encoding才能转换为string 转换为其他编码的byte[],一个例外是把整个txt文件通过stream读入byte[]后也可以根据它的前几个字节判断
Encoding,对于片断,我们就无能为力了:)