![](https://img-blog.csdnimg.cn/20201014180756926.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
爬虫
垮掉的一代人
NLP and WEB developer
展开
-
80行代码爬取510w条搜狐新闻
本文介绍分布式爬取搜狐新闻的方法基于redis 实现分布式基于newspaper实现正文抽取 newspaper3k for python3没有使用scrapy,python原生多线程实现本地文件存储(对于ES,MongoDB自行添加代码支持,不难,但是本人侧重于使用本地txt存储)获取所有新闻url通过拼接Base URL即可访问到当天所有的新闻列表,一千多条的样子。存入redi...原创 2019-11-12 23:35:22 · 781 阅读 · 2 评论 -
百度百科全站爬取教程
百度百科全站 目前有16,330,473个词条这里介绍一个基于scrapy的分布式百度百科爬虫,能够全量爬取百度百科的词条github地址特性百科类网站全站词条抓取,包括百度百科、互动百科、wiki中英文站点;支持断点续爬;支持缓存百科词条页面;可分布式部署;经过单机测试,在i9-9900K 内存64G 100M网络带宽下,百度百科词条一天可以抓取大概50w条(默认系统配置下);...原创 2019-11-03 15:12:00 · 4544 阅读 · 0 评论