sdmrxwang2011的博客

在编写爬虫爬取数据的时候，因为很多网站都有反爬虫措施，所以很容易被封IP，就不能继续爬了。在爬取大数据量的数据时更是瑟瑟发抖，时刻担心着下一秒IP可能就被封了。本文就如何解决这个问题总结出一些应对措施，这些措施可以单独使用，也可以同时使用，效果更好。伪造User-Agent在请求头中把User-Agent设置成浏览器中的User-Agent，来伪造浏览器访问。比如：headers = {‘...

今天看python爬虫的视频，然后按照视频上的内容编写代码，运行时出现了运行程序后的错误提示： for tr in soup.find('tbody').children:AttributeError: 'NoneType' object has no attribute 'children'感谢博主：爱搬砖的小迷糊，的分享，让我很快找出了错误。属性错误：‘NoneType’...