c# url encode编码转换_字符串编码及Python字符串编码

1、字符与字节有什么区别

(一)字节

字节(Byte)是一种计量单位,表示数据量多少,主要用于存储网络传输。1 byte=8 bit (KB,M)

(二)字符

字符是指计算机中使用的文字和符号,比如1、2、3、A、B、C、~!·#¥%……

(三)“字节”与“字符”

它们完全不是一个位面的概念不同编码里,字符和字节的对应关系不同:

ASCII码中,一个英文字母(不分大小写)占一个字节的空间,一个中文汉字占两个字节的空间。一个二进制数字序列,在计算机中作为一个数字单元,一般为8位二进制数,换算为十进制。最小值0,最大值255。

UTF-8编码中,一个英文字符=一个字节,一个中文(含繁体)=三个字节。

Unicode编码中,一个英文等于=两字节,一个中文(含繁体)=两个字节。

符号:英文标点占一个字节,中文标点占两个字节。举例:英文句号“.”占1个字节的大小,中文句号“。”占2个字节的大小。

397671c4c20ea88ac5018d9c9f9feca2.png
x表示无的意思,utf8英文省空间

字符(不同方式编码给人看),字节(计算机看)

28fbc17a9be30d107c7f8eccefaeb10d.png

ASCII:最早只有127个字符被编码到计算机里,也就是大小写英文字母、数字和一些符号,这个编码表被称为ASCII编码,比如大写字母A的编码是65

我们平时说的 ASCII 其实有两个含义,一个是 ASCII 字符集,另一个是 ASCII 编码。

ASCII 字符集只是定义了字符与字符码(character code,也称 code point 代码点)的对应关系。也就是说这一层面只是规定了字符A用 65 表示,至于
这个 65 在内存或硬盘中怎么表示,它不管,那是 ASCII 编码做的事。

ASCII 编码规定了用 7 个二进制位保存 ASCII 字符码(定义字符集的存储形式),剩下 1 位为 Parity bit,也称为校验位,用以检查数据的正确性。

Unicode把所有语言都统一到一套编码里,不会有乱码问题。(所有文字用这个)。

UTF-8:本着节约的精神,把Unicode编码转化为“可变长编码”的UTF-8编码。UTF-8编码把一个Unicode字符根据不同的数字大小编码成1-6个字节,常用的英文字母被编码成1个字节,汉字通常是3个字节,只有很生僻的字符才会被编码成4-6个字节。如果你要传输的文本包含大量英文字符,用UTF-8编码就能节省空间。

>>> '中'.encode('ascll')
Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
LookupError: unknown encoding: ascll
>>> '中'.encode('utf-8') #编码encode给计算机看
b'xe4xb8xad'
>>> b'xe4xb8xad'
b'xe4xb8xad'
>>> b'xe4xb8xad'.decode('utf-8') #解码decode给人看
'中'

c6258e916d65c81ca7f3289738ae7ca1.png
字符、代码点、二进制字节关系图
Character 字符。即我们看到的单个符号,像“A”、“啊”等
Code point 代码点。一个无符号数字,通常用16进制表示。代码点与字符的一一对应关系称为字符集(Character Set),这种对应关系肯定不止一种,也
就导致了不同字符集的出现,像 ASCII、ISO-8859-1、GB2312、GBK、Unicode 等。
Bytes 二进制字节。其含义为代码点在内存或磁盘中的表示形式。代码点与二进制字节的一一对应关系称为编码(Encoding),当然这种对应关系也不是唯
一的,所以编码也有很多种,像 ASCII、ISO-8859-1、ENC-CN、GBK、UTF-8等。

在计算机内存中,统一使用Unicode编码,当需要保存到硬盘或者需要传输的时候,就转换为UTF-8编码

e64b129e99a1c5cf7645390401f73023.png

用记事本编辑的时候,从文件读取的UTF-8字符被转换为Unicode字符到内存里,编辑完成后,保存的时候再把Unicode转换为UTF-8保存到文件。

28c3ecefc841a350512d808e9c74875c.png
记事本存在硬盘上面

浏览网页的时候,服务器会把动态生成的Unicode内容转换为UTF-8再传输到浏览器:

fc6c9d9b819728ba9159eb7f1e061b19.png
也是存在硬盘上面

Python 3版本中,字符串以Unicode编码

>>> print('包含中文的str')
包含中文的str

Python的字符串类型是str,在内存中以Unicode表示,一个字符对应若干个字节。如果要在网络上传输,或者保存到磁盘上,就需要把str变为以字节为单位的bytes

Python对bytes类型的数据用带b前缀的单引号或双引号表示

x = b'ABC'

要注意区分'ABC'b'ABC',前者是str,后者虽然内容显示得和前者一样,但bytes的每个字符都只占用一个字节

以Unicode表示的str通过encode()方法可以编码为指定的bytes,例如:

>>> 'ABC'.encode('ascii') #utf8占3字节
b'ABC' #还是3字节
>>> '中文'.encode('utf-8')
b'xe4xb8xadxe6x96x87'
>>> '中文'.encode('ascii')  #无
Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-1: ordinal not in range(128)

如果bytes中只有一小部分无效的字节,可以传入errors='ignore'忽略错误的字节:

>>> b'xe4xb8xadxff'.decode('utf-8', errors='ignore')
'中'

由于Python源代码也是一个文本文件,所以,当你的源代码中包含中文的时候,在保存源代码时,就需要务必指定保存为UTF-8编码。当Python解释器读取源代码时,为了让它按UTF-8编码读取,我们通常在文件开头写上这两行:

#!/usr/bin/env python3
# -*- coding: utf-8 -*-

第一行注释是为了告诉Linux/OS X系统,这是一个Python可执行程序,Windows系统会忽略这个注释;

第二行注释是为了告诉Python解释器,按照UTF-8编码读取源代码,否则,你在源代码中写的中文输出可能会有乱码。

格式化

dcb7f826d64b6ced71ef09fd7d803979.png

c7019651833ace05f95fb1081972cbb3.png

f86e800e9c856c716abf39353595eaf7.png

format()

>>> 'Hello, {0}, 成绩提升了 {1:.1f}%'.format('小明', 17.125)
'Hello, 小明, 成绩提升了 17.1%'

strbytes互相转换时,需要指定编码。最常用的编码是UTF-8。Python当然也支持其他编码方式,比如把Unicode编码成GB2312

>>> '中文'.encode('gb2312')
b'xd6xd0xcexc4'

但这种方式纯属自找麻烦,如果没有特殊业务要求,请牢记仅使用UTF-8编码。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值