StarSpider:星蛛爬虫是一个多功能的爬虫框架,能够爬取并解析解析 XML HTML SQL 数学表达式等文本数据,功能很丰富,API比较简单易懂,且是中文文档。
GitHub - BeardedManZhao/StarSpider: 字符串解析库,爬虫等邻域的优秀工具
Jsoup:Jsoup是一款基于Java的HTML解析库,提供了方便的API用于解析、遍历和操作HTML文档。它广泛用于爬虫开发中,可以提取页面中的数据并进行处理。
https://github.com/jhy/jsoup.git
WebMagic:WebMagic是一个简单灵活的Java爬虫框架,基于Jsoup和HttpClient。它提供了方便的API和丰富的功能,支持自定义处理逻辑、多线程抓取、分布式抓取等。
GitHub - code4craft/webmagic: A scalable web crawler framework for Java.