java爬虫爬出异步响应的动态数据

最新推荐文章于 2024-07-13 03:17:03 发布

熟练度麻木

最新推荐文章于 2024-07-13 03:17:03 发布

阅读量421

点赞数

文章标签： java 爬虫

本文链接：https://blog.csdn.net/JAATKZ/article/details/117227080

版权

本文介绍如何使用Java的HtmlUnit和Jsoup框架来爬取包含Ajax响应的动态网页数据。通过创建模拟浏览器客户端，获取页面并利用选择器提取所需信息。由于Jsoup对HTML支持更完整，所以将响应转换为Jsoup处理。对于有交互输入的场景，HtmlUnit是必要的。这是一个初学者的Java爬虫项目，欢迎指正。

摘要由CSDN通过智能技术生成

首先这个爬虫是公司要求在网上爬取数据，Java爬取数据就不是优势所以很多框架都不是很成熟，查阅了很久可以用HtmlUnit和jsoup 两个框架可以异步爬取到ajax响应的数据

用到依赖

<dependencies>
    <dependency>
        <groupId>net.sourceforge.htmlunit</groupId>
        <artifactId>htmlunit</artifactId>
        <version>2.29</version>
    </dependency>
    <dependency>
        <groupId>org.jsoup</groupId>
        <artifactId>jsoup</artifactId>
        <version>1.13.1</version>
    </dependency>

1 .首先创建模拟浏览器client客户端

WebClient webClient = new WebClient(BrowserVersion.CHROME);
webClient.getOptions().setJavaScriptEnabled(true);              // 启用JS解释器，默认为true
webClient.getOptions().setCssEnabled(false);                    // 禁用css支持
webClient.getOptions().setThrowExceptionOnScriptError(false);   // js运行错误时，是否抛出异常
webClient.getOptions().setThrowExceptionOnFailingStatusCode(false);
webClient.getOption