问题:在对番剧标题进行爬取时,不能找到有效的识别中文字符的方法
解决办法:
- 改进正则匹配表达式,如
'[\u4e00-\u9fff]+'
可以匹配所有中文字,参考如下文章可以匹配更多字符:
参考链接:https://www.cnblogs.com/mmix2009/p/3220427.html - 由于本次爬取的时候发现标题中不仅含有中文,所以1中涉及的方法不是很适用,需要扩大范围,所以本例中观察特殊情况
"index":"17","index_title":"TRAPNEST 演唱会","mid":928123,
由于确定标题内容位于"index_title":
和"mid":
中间,切前后各有一个”,所有采取"index_title":"?[^"]+"?,"mid"
匹配方式,解释如下,前后各一个”,中间为所有不为”的字符,[^”]表示除”外字符,实际效果满足需求。 - 在实际尝试中,尝试过[^\x00-\xff],也不能实现,与1中效果类似;
- 在提取出
"index_title":"TRAPNEST 演唱会"
部分后,仍按照上述匹配方式会匹配"index_title"
部分,所以采取字符串切片方式即string.split()方法,如index.split(':')
除了以上问题外,需要主要的是在urllib2.urlopen.read时,需要注意解码方式,默认解码为unicode,可使用encode进行再次编码,之后再次调用的时候需要注意保持一致。