利用Python3.x 删除字符串中的特殊字符——即ASCII控制字符

利用Python3.x删除字符串中的特殊字符——即ASCII控制字符

本文知识点:

  • Python3 文件的读写
  • Ascii控制字符
  • Notepad++展示控制字符

问题描述

在自然语言处理时,文件中会出现一些控制符例如
示例文件

  • 提示 可以通过Notepad++ 查看
    本文的目的就是删掉此种类型的控制符

解决办法

利用python读取文件,每次处理一行文字或者说字符串,删掉后重新保存到新文件中 —— [ 小熊猫 ]

代码如下

# 这里是去掉了前31个特殊的ASCII字符,但是保留了回车换行符 即 10 和13(window下面是两个)
def strip_control_characters(s):
    word = ''
    for i in s:
        if ord(i)>31 or ord(i) == 10 or ord(i) ==13:
            word += i
    return word
with open('源文件名称.txt', 'r', encoding='utf-8') as fo:
    with open('新文件名称.txt', 'w') as fw:
        for line in fo:
            fw.write(strip_control_characters(line))

##附录:特殊字符ascii码




ASCII控制字符

二进制十进制十六进制缩写可以显示的表示法名称/意义
0000 0000000NUL空字符(Null)
0000 0001101SOH标题开始
0000 0010202STX本文开始
0000 0011303ETX本文结束
0000 0100404EOT传输结束
0000 0101505ENQ请求
0000 0110606ACK确认回应
0000 0111707BEL响铃
0000 1000808BS退格
0000 1001909HT水平定位符号
0000 1010100ALF换行键
0000 1011110BVT垂直定位符号
0000 1100120CFF换页键
0000 1101130DCR归位键
0000 1110140ESO取消变换(Shift out)
0000 1111150FSI启用变换(Shift in)
0001 00001610DLE跳出数据通讯
0001 00011711DC1设备控制一(XON 启用软件速度控制)
0001 00101812DC2设备控制二
0001 00111913DC3设备控制三(XOFF 停用软件速度控制)
0001 01002014DC4设备控制四
0001 01012115NAK确认失败回应
0001 01102216SYN同步用暂停
0001 01112317ETB区块传输结束
0001 10002418CAN取消
0001 10012519EM连接介质中断
0001 1010261ASUB替换
0001 1011271BESC跳出
0001 1100281CFS文件分割符
0001 1101291DGS组群分隔符
0001 1110301ERS记录分隔符
0001 1111311FUS单元分隔符
0111 11111277FDEL删除

ASCII可显示字符

二进制十进制十六进制图形
0010 00003220(空格)(␠)
0010 00013321!
0010 00103422"
0010 00113523#
0010 01003624$
0010 01013725 %
0010 01103826&
0010 01113927
0010 10004028(
0010 10014129)
0010 1010422A*
0010 1011432B+
0010 1100442C,
0010 1101452D-
0010 1110462E.
0010 1111472F/
0011 000048300
0011 000149311
0011 001050322
0011 001151333
0011 010052344
0011 010153355
0011 011054366
0011 011155377
0011 100056388
0011 100157399
0011 1010583A:
0011 1011593B;
0011 1100603C<
0011 1101613D=
0011 1110623E>
0011 1111633F?
 
二进制十进制十六进制图形
0100 00006440@
0100 00016541A
0100 00106642B
0100 00116743C
0100 01006844D
0100 01016945E
0100 01107046F
0100 01117147G
0100 10007248H
0100 10017349I
0100 1010744AJ
0100 1011754BK
0100 1100764CL
0100 1101774DM
0100 1110784EN
0100 1111794FO
0101 00008050P
0101 00018151Q
0101 00108252R
0101 00118353S
0101 01008454T
0101 01018555U
0101 01108656V
0101 01118757W
0101 10008858X
0101 10018959Y
0101 1010905AZ
0101 1011915B[
0101 1100925C</td>
0101 1101935D]
0101 1110945E^
0101 1111955F_
 
二进制十进制十六进制图形
0110 00009660`
0110 00019761a
0110 00109862b
0110 00119963c
0110 010010064d
0110 010110165e
0110 011010266f
0110 011110367g
0110 100010468h
0110 100110569i
0110 10101066Aj
0110 10111076Bk
0110 11001086Cl
0110 11011096Dm
0110 11101106En
0110 11111116Fo
0111 000011270p
0111 000111371q
0111 001011472r
0111 001111573s
0111 010011674t
0111 010111775u
0111 011011876v
0111 011111977w
0111 100012078x
0111 100112179y
0111 10101227Az
0111 10111237B{
0111 11001247C|
0111 11011257D}
0111 11101267E~

  • 2
    点赞
  • 15
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
将库所有的 Python 2.x 语法改为 Python 3.x 语法需要逐个检查每一个文件和代码语句,并进行相应的修改。可能需要考虑以下几个方面: 1. print 语句的修改:在 Python 2.x ,print 是一个语句,而在 Python 3.x ,print 被修改为函数。因此,需要将所有的 print 语句修改为 print() 函数调用。 2. Unicode 字符串的处理:在 Python 2.x 字符串默认使用 ASCII 编码,而在 Python 3.x 字符串默认使用 Unicode 编码。因此,在修改代码时需要注意字符串编码的问题,尤其是在处理文件 I/O 和网络传输时。 3. Division 的改变:在 Python 2.x ,整数除以整数结果会取整,而在 Python 3.x ,整数除以整数会得到浮点数结果。如果代码有除法运算,需要根据需要进行修改。 4. xrange 的移除:在 Python 2.x ,xrange 函数可以生成一个迭代器,而在 Python 3.x ,xrange 函数被移除,range 函数可以直接生成迭代器。 5. 异常处理的修改:在 Python 2.x ,except 后面可以跟多个异常类型,而在 Python 3.x ,需要使用 as 关键字指定异常变量。此外,标准异常类型的名称也有所改变,需要进行相应的修改。 6. 其他语法变化:还有一些其他的语法差异,例如在 Python 2.x 经常使用的 reduce 函数在 Python 3.x 被移动到 functools 模块,需要进行相应的修改。 总之,将库所有的 Python 2.x 语法改为 Python 3.x 语法是一项繁琐的工作,需要仔细检查每一个文件和代码语句,并进行相应的修改。建议可以先了解 Python 2.x 和 Python 3.x 的语法差异,然后逐步修改代码,确保修改后的代码能够正常运行。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值