京东php乱码,爬取京东页面的文本为乱码

我使用beautiful soup解析京东的界面,把里面的文本全都提取出来,但是打印的时候发现全是乱码。jd的界面使用utf-8编码的,我在解码成gbk时却遇到错误。

下面是代码,请指教。

#encoding=gbk

from bs4 import BeautifulSoup

from bs4 import NavigableString

from bs4 import Comment

from bs4 import Doctype

import urllib2

def walker(soup, indent):

text=""

if soup.name is not None:

for child in soup.children:

if isinstance(child, NavigableString):

if len(child) != 1: #如何判断是否为空

text = indent + unicode(child).encode('utf-8').strip() #.decode('utf-8').encode('gbk')

text += walker(child, indent+"\t")

return text

if __name__ == "__main__":

soup = BeautifulSoup( urllib2.urlopen("http://item.jd.com/1592573020.html").read())

doctypes=soup.findAll(text=lambda text: isinstance(text, Doctype))

[doctype.extract() for doctype in doctypes]

comments = soup.findAll(text=lambda text:isinstance(text, Comment))

[comment.extract() for comment in comments]

for script in soup("script"):

script.extract()

for noscript in soup("noscript"):

noscript.extract()

for style in soup("style"):

style.extract()

text=walker(soup, "")

print "text", text.decode('utf-8').encode('gbk') #这里会出错

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值