C# 如何按正确编码读取文本

http://hi.baidu.com/zhaowanru0919/blog/item/5214b1eaab9a15d6d539c99f.html

 

字符编码有很多种，例如：ASCII, Unicode, BigEndianUnicode , UTF-8, UTF-16, UTF-32等。每种编码规则中，字符的长度都不一致，如果读取时没有选择好编码，则往往会处理为乱码。

文本文件在保存时，系统如果发现编码格式和系统默认的编码（中文系统下默认为GB2312）不一致时，会在txt文件开头
部分添加特定的“编码字节序标识（Encoding Bit Order Mark，简写为BOM）”，类似PE格式的"MZ"文件头。这样
它在读取时就可以根据这个BOM来确定该文本文件生成时所使用的Encoding。这个BOM我们用记事本等程序打开默认
是看不到的，但是用stream按字节读取时是可以读到的。我的这个TxtFileEncoding类就是根据这个BOM“文件头”
来确定txt文件生成时用到的编码的。

 

//BOMStream 类来获取文件的编码类型
using System;
using System.Collections.Generic;
using System.Text;
using System.IO;

namespace BOMText
{
/// <summary>
/// 用于取得一个文本文件的编码方式(Encoding)。
/// 通过读取“编码字节序标识（Encoding Bit Order Mark，简写为BOM）”。
/// </summary>
///
public class BOMStream
{
public BOMStream()
{
//
// TODO: 在此处添加构造函数逻辑
//
}

/// <summary>
/// 取得一个文本文件的编码方式。如果无法在文件头部找到有效的前导符，Encoding.Default将被返回。
/// </summary>
/// <param name="fileName">文件名</param>
///
public static Encoding GetEncoding(string fileName)
{
return GetEncoding(fileName, Encoding.Default);
}

/// <summary>
/// 取得一个文本文件流的编码方式。
/// </summary>
/// <param name="stream">文本文件流</param>
/// <returns></returns>
///
public static Encoding GetEncoding(FileStream stream)
{
return GetEncoding(stream, Encoding.Default);
}

/// <summary>
/// 取得一个文本文件的编码方式。
/// </summary>
/// <param name="fileName">文件名。</param>
/// <param name="defaultEncoding">默认编码方式。当该方法无法从文件的头部取得有效的前导符时，将返回该编码方式。</param>
/// <returns></returns>
///
public static Encoding GetEncoding(string fileName, Encoding defaultEncoding)
{
FileStream fs = new FileStream(fileName, FileMode.Open);
Encoding targetEncoding = GetEncoding(fs, defaultEncoding);
fs.Close();
return targetEncoding;
}

/// <summary>
/// 取得一个文本文件流的编码方式。

/// </summary>
/// <param name="stream">文本文件流。</param>

/// <param name="defaultEncoding">默认编码方式。当该方法无法从文件的头部取得有效的前导符时，将返回该编码方式。</param>
/// <returns></returns>
///
public static Encoding GetEncoding(FileStream stream, Encoding defaultEncoding)
{
Encoding targetEncoding = defaultEncoding;
if(stream != null && stream.Length >= 2)
{
//保存文件流的前4个字节
byte byte1 = 0;
byte byte2 = 0;
byte byte3 = 0;
byte byte4 = 0;

//保存当前Seek位置
long origPos = stream.Seek(0, SeekOrigin.Begin);
stream.Seek(0, SeekOrigin.Begin);
int nByte = stream.ReadByte();
byte1 = Convert.ToByte(nByte);
byte2 = Convert.ToByte(stream.ReadByte());

if(stream.Length >= 3)
{
byte3 = Convert.ToByte(stream.ReadByte());
}

if(stream.Length >= 4)
{
byte4 = Convert.ToByte(stream.ReadByte());
}
//根据文件流的前4个字节判断Encoding
//Unicode {0xFF, 0xFE};
//BE-Unicode {0xFE, 0xFF};
//UTF8 = {0xEF, 0xBB, 0xBF};

if(byte1 == 0xFE && byte2 == 0xFF)//UnicodeBe
{
targetEncoding = Encoding.BigEndianUnicode;
}

if(byte1 == 0xFF && byte2 == 0xFE && byte3 != 0xFF)//Unicode
{
targetEncoding = Encoding.Unicode;
}

if(byte1 == 0xEF && byte2 == 0xBB && byte3 == 0xBF)//UTF8
{
targetEncoding = Encoding.UTF8;
}

//恢复Seek位置
stream.Seek(origPos, SeekOrigin.Begin);
}
return targetEncoding;
}
}
}

//主测试程序，把源文件ADD.ASP存成不同编码方式后，运行执行测试
using System;
using System.Collections.Generic;
using System.Text;
using System.IO;
using BOMText;

namespace stream_test
{
class Test
{
static void Main(string[] args)
{
try
{
string originalFileName = "ADD.ASP";
FileStream fs = new FileStream("outFile.txt", FileMode.Create);

Encoding fileEncoding = BOMStream.GetEncoding(originalFileName, Encoding.GetEncoding("gb2312"));
Console.WriteLine("I will using following encode: ");
Console.WriteLine(fileEncoding);

StreamReader srBOM = new StreamReader(originalFileName, fileEncoding);
StreamWriter sw = new StreamWriter(fs, Encoding.ASCII);
String line;
// Read and display lines from the file until the end of
// the file is reached.
while ((line = srBOM.ReadLine()) != null)
{
Console.WriteLine(line);
// Add some text to the file.
sw.Write(line);
}

Console.ReadKey(true);

}
catch (Exception e)
{
// Let the user know what went wrong.
Console.WriteLine("The file could not be read:");
Console.WriteLine(e.Message);
}
Console.Read();
}
}
}