各种编码格式的区别:ASCII,Latin1,Unicode,UTF-8与GBK

目录

1.ASCII编码

2.Latin1编码

3.Unicode编码

4.UTF-8编码

5. GBK编码


1.ASCII编码

    ASCII码实现的是大小写英文字母,阿拉伯数字,及常用的标点符、运算符、控制字符(换行、删除等)和通信字符(文头、确认等)与计算机编码之间的对应。ASCII编码采用单字节(8 Bit)存储,实际数据存储空间是7 Bit,最高位的1 Bit是奇偶校验位。

ASCII 编码对于 英语 国家足够用了,但是却无法表达非英语国家字符到计算机编码之间的映射,如中文汉字、法语字母等。

所以,出现了很多非ASCII编码(但大多数都是兼容ASCII码的)。

2.Latin1编码

    Latin1是ISO-8859-1的别名,有些环境下写作Latin-1。Latin1编码是单字节编码,向下兼容ASCII,其编码范围是0x00-0xFF,0x00-0x7F之间完全和ASCII一致,0x80-0x9F之间是控制字符,0xA0-0xFF之间是文字符号。

    ASCII编码是一个7位的容器,ISO-8859-1编码是一个8位的容器。

    因为Latin1编码范围使用了单字节内的所有空间,在支持Latin1编码的系统中传输和存储其他任何编码的字节流都不会被抛弃。换言之,把其他任何编码的字节流当作Latin1编码看待都没有问题。这是个很重要的特性,MySQL数据库默认编码是Latin1就是利用了这个特性。

3.Unicode编码

    世界上存在着多种编码方式,同一个二进制数字可以被解释成不同的符号。因此,要想打开一个文本文件,就必须知道它的编码方式,否则用错误的编码方式解读,就会出现乱码。为什么电子邮件常常出现乱码?就是因为发信人和收信人使用的编码方式不一样。

    可以想象,如果有一种编码,将世界上所有的符号都纳入其中。每一个符号都给予一个独一无二的编码,那么乱码问题就会消失。这就是Unicode。

    Unicode当然是一个很大的集合,现在的规模可以容纳100多万个符号。每个符号的编码都不一样需要注意的是,Unicode只是一个符号集,它只规定了符号的二进制代码,却没有规定这个二进制代码应该如何存储。

如果所有字符都按照最大存储空间存储,那必然会浪费很大的空间,

比如所有字符都按照3字节存储,但是英文字母只需要一个字节存储就够了,

就等于说一个 Unicode 编码的英文文档是 ASCII 编码文档存储空间的三倍。

所以,便有了变长编码—-UTF-8。

4.UTF-8编码

    UTF-8就是在互联网上使用最广的一种Unicode的实现方式。其他实现方式还包括UTF-16和UTF-32,不过在互联网上基本不用。

    UTF-8最大的一个特点,就是它是一种变长的编码方式。它可以使用1~4个字节表示一个符号,根据不同的符号而变化字节长度。如ASCII编码的内容UTf-8中就是用一个字符存储的。

5. GBK编码

    GBK编码是在GB2312-80(也称作GB2312,GB码)标准基础上的内码扩展规范,使用了双字节编码方案。

  • 4
    点赞
  • 20
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
引用\[1\]和\[2\]中提到的报错信息是关于Unicode编码的问题。当Python解码一个字符串时,如果遇到无法解码的字节,就会抛出UnicodeDecodeError异常。在这种情况下,报错信息中会显示无法解码的字节的位置和具体的错误原因。对于报错信息中的字节0xce和0xc5,它们都是无效的续字节,导致解码失败。 解决这个问题的方法是确保使用正确的编码方式进行解码。可以尝试使用其他编码方式,如latin-1或gbk,来解码字符串。另外,还可以尝试使用try-except语句来捕获异常并处理。 例如,对于报错信息中的SyntaxError: (unicode error) 'utf-8' codec can't decode byte 0xce in position 4: invalid continuation byte,可以尝试使用以下代码来解决问题: ```python try: # 解码字符串 decoded_string = my_string.decode('utf-8') except UnicodeDecodeError: # 使用其他编码方式解码字符串 decoded_string = my_string.decode('latin-1') ``` 引用\[3\]中提到的UnicodeEncodeError是关于编码的问题。当Python编码一个字符串时,如果遇到无法编码的字符,就会抛出UnicodeEncodeError异常。在这种情况下,报错信息中会显示无法编码的字符的位置和具体的错误原因。 解决这个问题的方法是确保使用正确的编码方式进行编码。可以尝试使用其他编码方式,如utf-8gbk,来编码字符串。另外,还可以尝试使用try-except语句来捕获异常并处理。 例如,对于报错信息中的UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-1: ordinal not in range(128),可以尝试使用以下代码来解决问题: ```python try: # 编码字符串 encoded_string = my_string.encode('ascii') except UnicodeEncodeError: # 使用其他编码方式编码字符串 encoded_string = my_string.encode('utf-8') ``` 总之,解决Unicode编码相关的报错问题需要确保使用正确的编码方式进行解码或编码,并可以使用try-except语句来捕获异常并处理。 #### 引用[.reference_title] - *1* *3* [2021-07-13Python——报错 UnicodeDecodeError: ‘utf-8‘ codec can‘t decode byte 0xce in position 52:...](https://blog.csdn.net/WYDQXCG/article/details/118709193)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insert_down28v1,239^v3^insert_chatgpt"}} ] [.reference_item] - *2* [Python报错SyntaxError: (unicode error) ‘utf-8‘ codec can‘t decode byte 0xc5 in position 0: ...](https://blog.csdn.net/hj960511/article/details/123009205)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insert_down28v1,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值