python自带re模块正则表达式去除html标签

转载 2017年02月04日 16:15:53

本文转载自:python自带re模块正则表达式去除html标签

利用正则式处理,不知道会不会有性能问题,没有经过太多测试。
目前我有很多还是使用BeautifulSoup进行这种处理。
HTML实体处理的只是用于处理一些常用的实体。

# -*- coding: utf-8-*-
import re
##过滤HTML中的标签
#将HTML中标签等信息去掉
#@param htmlstr HTML字符串.
def filter_tags(htmlstr):
    #先过滤CDATA
    re_cdata=re.compile('//<!\[CDATA\[[^>]*//\]\]>',re.I) #匹配CDATA
    re_script=re.compile('<\s*script[^>]*>[^<]*<\s*/\s*script\s*>',re.I)#Script
    re_style=re.compile('<\s*style[^>]*>[^<]*<\s*/\s*style\s*>',re.I)#style
    re_br=re.compile('<br\s*?/?>')#处理换行
    re_h=re.compile('</?\w+[^>]*>')#HTML标签
    re_comment=re.compile('<!--[^>]*-->')#HTML注释
    s=re_cdata.sub('',htmlstr)#去掉CDATA
    s=re_script.sub('',s) #去掉SCRIPT
    s=re_style.sub('',s)#去掉style
    s=re_br.sub('\n',s)#将br转换为换行
    s=re_h.sub('',s) #去掉HTML 标签
    s=re_comment.sub('',s)#去掉HTML注释
    #去掉多余的空行
    blank_line=re.compile('\n+')
    s=blank_line.sub('\n',s)
    s=replaceCharEntity(s)#替换实体
    return s

##替换常用HTML字符实体.
#使用正常的字符替换HTML中特殊的字符实体.
#你可以添加新的实体字符到CHAR_ENTITIES中,处理更多HTML字符实体.
#@param htmlstr HTML字符串.
def replaceCharEntity(htmlstr):
    CHAR_ENTITIES={'nbsp':' ','160':' ',
                'lt':'<','60':'<',
                'gt':'>','62':'>',
                'amp':'&','38':'&',
                'quot':'"','34':'"',}

    re_charEntity=re.compile(r'&#?(?P<name>\w+);')
    sz=re_charEntity.search(htmlstr)
    while sz:
        entity=sz.group()#entity全称,如&gt;
        key=sz.group('name')#去除&;后entity,如&gt;为gt
        try:
            htmlstr=re_charEntity.sub(CHAR_ENTITIES[key],htmlstr,1)
            sz=re_charEntity.search(htmlstr)
        except KeyError:
            #以空串代替
            htmlstr=re_charEntity.sub('',htmlstr,1)
            sz=re_charEntity.search(htmlstr)
    return htmlstr

def repalce(s,re_exp,repl_string):
    return re_exp.sub(repl_string,s)

if __name__=='__main__':
    s=file('Google.htm').read()
    news=filter_tags(s)
    print news

——————————————————华丽的分割线——————————————————————————

import urllib2,re
x=urllib2.urlopen('http://www.csdn.net').read()
re_h=re.compile('</?\w+[^>]*>')
s=re_h.sub('',x)
print s

python 去除html标签的几种方法

#! /usr/bin/python # -*- coding:utf-8 -*- ''' Created on 2013-12-18 @author: Java ''' import re fro...
  • wsnxyyyzyq
  • wsnxyyyzyq
  • 2014年02月13日 17:25
  • 5468

使用python过滤html标签

采集后的数据都带有' 科研最早和一项教学为一体的现代化综合师从性省级医院 在这里只要将所有带 dr = re.compile(r']+>',re.S)...
  • followingturing
  • followingturing
  • 2012年11月01日 21:26
  • 7455

Python:使用正则去除HTML标签

原创转载请注明出处: 利用正则式处理,不知道会不会有性能问题,没有经过太多测试。 目前我有很多还是使用BeautifulSoup进行这种处理。 HTML实体处理的只是用于处理一些常用的实体。...
  • oMingZi12345678
  • oMingZi12345678
  • 2013年07月14日 09:24
  • 3757

python去除所有html标签的方法

这段代码可以用于去除文本里的字符串标签,不包括标签里面的内容 import re html=’脚本之家,Python学习!’ dr = re.compile(r’]+>’,re.S) dd =...
  • haokele
  • haokele
  • 2017年06月12日 22:54
  • 259

python 过滤文本中的HTML标签

最近需要过滤文本中的HTML标签,在网上找了个大神写的python方法: '''过滤HTML中的标签 #将HTML中标签等信息去掉 #@param htmlstr HTML字符串...
  • qq_27623337
  • qq_27623337
  • 2016年11月25日 15:21
  • 1263

python多线程爬虫学习--去除html的标签

import reimport urllib page = urllib.urlopen("http://www.baidu.com") html = page.read() pattern =...
  • myiloveuuu
  • myiloveuuu
  • 2017年08月16日 00:29
  • 422

正则提取出HTML正文(剔除标签内容)python实现

正则提取出HTML正文(剔除标签内容)python实现
  • pingzi1990
  • pingzi1990
  • 2014年12月03日 15:35
  • 2116

python正则表达式去除html标签

使用python的re模块,正则表达式去除html标签,代码如下: import re html = '\ 目的是通过第一次soup.find按class粗略筛选并通过soup.find_all筛...
  • zhanghaipeng1989
  • zhanghaipeng1989
  • 2014年12月01日 11:06
  • 1674

python除去html标签

使用python自带的HTMLParser 实现。 #!/usr/bin/env python # -*- coding: utf-8 -*- import urllib2,re import ti...
  • xyw_Eliot
  • xyw_Eliot
  • 2014年12月10日 22:40
  • 1498

[python] 常用正则表达式爬取网页信息及分析HTML标签总结

这篇文章主要是介绍Python爬取网页信息时,经常使用的正则表达式及方法。它是一篇总结性文章,实用性比较大,主要解决自己遇到的爬虫问题,也希望对你有所帮助~ 1.获取标签之间内容 2.获取超链接之间内...
  • Eastmount
  • Eastmount
  • 2016年04月07日 06:13
  • 38227
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:python自带re模块正则表达式去除html标签
举报原因:
原因补充:

(最多只允许输入30个字)