开源项目Egg简介

Egg是一个开源的、多线程Java爬虫框架,设计简洁,API易用,具备良好性能。适用于初学者,支持多种请求方式,开发者致力于不断改进和添加功能,以推动开源事业的发展。
摘要由CSDN通过智能技术生成

Egg 简介

Egg

https://github.com/wangduoxiong/Egg

它一个通用高效的爬虫,希望它能够替大家实现一些需求,更希望能为开源做出自己的贡献。目前,还在成长,在我的构想下,它还需要添加很多功能,我会继续完善。有任何疑问以及需求请以与作者交流:630841816@qq.com

  • Egg是一个通用,多线程的Java爬虫框架。
  • Egg简单小巧,api非常简单,容易上手。
  • Egg性能不错,并实现多种请求方式。
  • 能够比较快的响应使用者的需求

速度说明

实测数据,在20M无线网下(隔了堵墙,所以会不稳定)
1. 爬取1000网页,重复爬取十次
  • 8核,耗时平均在15秒左右
  • 16核,平均耗时12秒左右
  • 32核,平均耗时12秒左右

速度大概在1.7-2.5m/s左右

功能介绍

1.可以通过各种方式爬取网页,当然有些并不完善,在目前主要实现get,post,其余会继续
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值