python爬虫坑

错误提示如下：

'latin-1' codec can't encode character '\u014d'

问题原因：

爬取到的数据中含有特殊字符，存入数据库时出错。

解决办法：

connection = pymysql.connect(
            host = '1.1.1.1',#主机名
            user = 'xxx',#用户名
            password = 'xxx',#密码
            db = 'test',#数据库
            use_unicode = True,
            charset = 'utf8'#数据库字符集
        )

在使用pymysql连接数据库的过程中，connection配置中需要加入charset=utf8属性，否则爬取到的数据存入数据库时有字符集编码问题。

转载于:https://blog.51cto.com/12085228/2047861