背景:
MySQL8.0,python3.6
一个py爬虫脚本,同时保存原始页面和抽取的部分数据,小规模数据量测试时正常运行,实际运行时抛出:
①ConnectionAbortedError: [WinError 10053] 您的主机中的软件中止了一个已建立的连接
②pymysql.err.InterfaceError: (0, '')
解决方法:
搜索后发现大概有两种引起这种异常的情况:
1、操作时数据库的连接已断开。如果是这个原因,在对数据库操作前检查连接情况并在断开时重连即可,这里不是这个原因导致抛错。
2、批量插入时,数据包大小超过了Mysql的max_allowed_packet参数的默认值4M:
修改my.ini(windows环境)中的max_allowed_packet=32M(最高支持1G),重启服务后问题解决。可用show VARIABLES like '%max_allowed_packet%'; 检查参数。
tips:不要通过SET修改参数,重启后会恢复默认值。