UTR-8编码文件上传BOM头问题(实际问题PHP上传csv文件首字符串长度出现问题)...

这两天在做PHP上传CSV文件的时候,第一列第一个值总是在正则验证不过。例如第一列第一个值是“test_test1”,第一列第二个值是"test_test2",没有本质差别的两个值对于同一个正则却给出了两个结果。在很纠结的时候用var_dump打印了一下两个值。居然发现显示的结果“test_test1”长度13,而"test_test2"长度10。为什么会有这个差别,在网上找了一段材料。才明白是BOM头的问题

 

BOM

  BOM —— Byte Order Mark,中文名译作“字节顺序标记”。在这里找到一段关于 BOM 的说明:   在UCS 编码中有一个叫做 "Zero Width No-Break Space" ,中文译名作“零宽无间断间隔” 的字符,它的编码是 FEFF。而 FFFE 在 UCS 中是不存在的字符,所以不应该出现在实际传输中。UCS 规范建议我们在传输字节流前,先传输字符 "Zero Width No-Break Space"。这样如果接收者收到 FEFF,就表明这个字节流是 Big-Endian 的;如果收到FFFE,就表明这个字节流是 Little- Endian 的。因此字符 "Zero Width No-Break Space" (“零宽无间断间隔”)又被称作 BOM。   UTF-8 不需要 BOM 来表明字节顺序,但可以用 BOM 来表明编码方式。字符 "Zero Width No-Break Space" 的 UTF-8 编码是 EF BB BF。所以如果接收者收到以 EF BB BF 开头的字节流,就知道这是 UTF-8编码了。Windows 就是使用 BOM 来标记文本文件的编码方式的。   字符U+FEFF如果出现在字节流的开头,则用来标识该字节流的字节序,是高位在前还是低位在前。如果它出现在字节流的中间,则表达零宽度非换行空格的意义,用户看起来就是一个空格。从Unicode3.2开始,U+FEFF只能出现在字节流的开头,只能用于标识字节序,就如它的名称——字节序标记——所表示的一样;除此以外的用法已被舍弃。取而代之的是,使用U+2060来表达零宽度无断空白。   类似WINDOWS自带的记事本等软件,在保存一个以UTF-8编码的文件时,会在文件开始的 地方插入三个不可见的字符(0xEF 0xBB 0xBF,即BOM)。它是一串隐藏的字符,用于让记事本等编辑器识别这个文件是否以UTF-8编码。对于一般的文件,这样并不会产生什么麻烦。但对于 PHP来说,BOM是个大麻烦。   PHP并不会忽略BOM,所以在读取、包含或者引用这些文件时,会把BOM作为该文件开头正文 的一部分。根据嵌入式语言的特点,这串字符将被直接执行(显示)出来。由此造成即使页面的 top padding 设置为0,也无法让整个网页紧贴浏览器顶部,因为在html一开头有这3个字符呢!

不同编码的字节顺序标记的表示

  

编码表示 (十六进制)表示 (十进制)
UTF-8EF BB BF239 187 191
UTF-16(大端序)FE FF254 255
UTF-16(小端序)FF FE255 254
UTF-32(大端序)00 00 FE FF0 0 254 255
UTF-32(小端序)FF FE 00 00255 254 0 0
UTF-72B 2F 76和以下的一个字节:[ 38 | 39 | 2B | 2F ]43 47 118和以下的一个字节:[ 56 | 57 | 43 | 47 ]
en:UTF-1F7 64 4C247 100 76
en:UTF-EBCDICDD 73 66 73221 115 102 115
en:Standard Compression Scheme for Unicode0E FE FF14 254 255
en:BOCU-1FB EE 28及可能跟随着FF251 238 40及可能跟随着255
GB-1803084 31 95 33132 49 149 51

 

也就是说在这个CSV文件最开始的时候隐藏了三个不可见的字符(0xEF 0xBB 0xBF,即BOM),PHP不会隐藏这个BOM。所以出现了两个字符串不相等的状况。

所以上传文件时要去除BOM头。

解决办法:$s = trim($s, "\xef\xbb\xbf\xff\xfe");

"\xef\xbb\xbf\xff\xfe" 中
"\xef\xbb\xbf" utf-8
"\xff\xfe" utf-16le (低位在前)
"\xfe\xff" utf-16be (高位在前)
分别表示相应的 BOM 头

 

不知道说的明白不明白,不过遇到这个问题的人倒是可以先参考这个解决办法把问题解决了,然后在网上再找找相关资料。

转载于:https://www.cnblogs.com/cindylu520/archive/2012/05/30/2526569.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值