2024年Java爬虫利器：Jsoup详细介绍与用法_java jsoup(1)

2401_84562143

于 2024-04-30 14:28:06 发布

阅读量1k

点赞数 3

分类专栏：程序员文章标签： java 爬虫开发语言

本文链接：https://blog.csdn.net/2401_84562143/article/details/138344926

版权

程序员专栏收录该内容

193 篇文章 0 订阅

订阅专栏

    .method(Connection.Method.GET)
    .execute();

Document loginDoc = loginForm.parse();
Element form = loginDoc.select(“form”).first();

// 填充表单字段
form.select(“input[name=username]”).val(“username”);
form.select(“input[name=password]”).val(“password”);

// 提交表单
Connection.Response loginResponse = form.submit().cookies(loginForm.cookies()).execute();

Document loggedinDoc = loginResponse.parse();


### 七、综合案例


#### 1：爬取新闻网站的标题和链接


假设我们想要从一个新闻网站上爬取所有新闻的标题和对应的链接。我们可以使用Jsoup来实现这个功能。以下是一个示例：

import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
import org.jsoup.select.Elements;
import java.io.IOException;

public class NewsCrawler {
public static void main(String[] args) {
try {
// 加载新闻网站的HTML文档
Document doc = Jsoup.connect(“http://www.example.com/news”).get();

        // 选择新闻标题和链接的元素
        Elements newsElements = doc.select(".news-item");
        
        // 遍历元素并提取标题和链接
        for (Element newsElement : newsElements) {
            String title = newsElement.select(".title").text();
            String link = newsElement.select("a").attr("href");
            System.out.println("标题：" + title);
            System.out.println("链接：" + link);
        }
    } catch (IOException e) {
        e.printStackTrace();
    }
}

}


在这个示例中，我们首先使用Jsoup连接到指定的新闻网站，并加载HTML文档。然后，我们使用选择器选择每个新闻元素，并通过选择器提取标题和链接。最后，我们将结果打印出来。


#### 2：爬取图片网站的图片链接和下载图片


假设我们想要从一个图片网站上爬取所有图片的链接，并将图片下载到本地。我们可以使用Jsoup来实现这个功能。以下是一个示例：

import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
import org.jsoup.select.Elements;
import java.io.BufferedInputStream;
import java.io.FileOutputStream;
import java.io.IOException;
import java.net.URL;

public class ImageCrawler {
public static void main(String[] args) {
try {
// 加载图片网站的HTML文档
Document doc = Jsoup.connect(“http://www.example.com/images”).get();

        // 选择图片链接的元素
        Elements imageElements = doc.select(".image-item img");
        
        // 遍历元素并提取图片链接
        for (Element imageElement : imageElements) {
            String imageUrl = imageElement.attr("src");
            String fileName = imageUrl.substring(imageUrl.lastIndexOf("/") + 1);
            
            // 下载图片并保存到本地
            URL url = new URL(imageUrl);
            BufferedInputStream in = new BufferedInputStream(url.openStream());
            FileOutputStream out = new FileOutputStream("images/" + fileName);
            byte[] buffer = new byte[1024];
            int bytesRead;
            while ((bytesRead = in.read(buffer, 0, 1024)) != -1) {
                out.write(buffer, 0, bytesRead);
            }
            out.close();
            in.close();
            
            System.out.println("图片已下载：" + fileName);
        }
    } catch (IOException e) {
        e.printStackTrace();
    }
}

}


在这个示例中，我们首先使用Jsoup连接到指定的图片网站，并加载HTML文档。然后，我们使用选择器选择每个图片链接的元素，并通过选择器提取图片链接。接下来，我们使用Java的IO流将图片下载到本地。最后，我们将下载完成的图片文件名打印出来。请确保您已经在项目中创建了一个名为"images"的文件夹，用于保存下载的图片文件。


以上是两个综合案例，展示了如何使用Jsoup进行爬虫操作。您可以根据具体的需求和网站结构进行相应的调整和扩展。通过灵活运用Jsoup的功能，您可以轻松地爬取网页上的数据，并将其用于实际应用。


### 八、总结


使用Java库Jsoup，我们可以轻松地解析和处理HTML文档，从而从网页中提取所需的信息。我们可以使用选择器和查找元素的功能快速定位和提取元素，使用提取元素属性和文本的功能获取所需的内容，使用遍历和修改元素的功能对元素进行操作，甚至可以使用Jsoup处理HTML表单。Jsoup是一款功能强大且易于使用的Java爬虫专用库，相信通过本文的介绍，您已经对Jsoup有了更深入的了解，并能够灵活运用它来解决实际问题。让我们一起享受用Jsoup编写爬虫程序的乐趣吧！








**一、Python所有方向的学习路线**

Python所有方向的技术点做的整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照下面的知识点去找对应的学习资源，保证自己学得较为全面。

![img](https://img-blog.csdnimg.cn/1d40facda2b84990b8e1743f5487d455.png)  
![img](https://img-blog.csdnimg.cn/0fc11d4a31bd431dbf124f67f1749046.png)

**二、Python必备开发工具**

工具都帮大家整理好了，安装就可直接上手！![img](https://img-blog.csdnimg.cn/ff266f529c6a46c4bc28e5f895dec647.gif#pic_center)

**三、最新Python学习笔记**

当我学到一定基础，有自己的理解能力的时候，会去阅读一些前辈整理的书籍或者手写的笔记资料，这些笔记详细记载了他们对一些技术点的理解，这些理解是比较独到，可以学到不一样的思路。

![img](https://img-blog.csdnimg.cn/6d414e9f494742db8bcc3fa312200539.png)

**四、Python视频合集**

观看全面零基础学习视频，看视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。

![img](https://img-blog.csdnimg.cn/a806d9b941c645858c61d161aec43789.png)

**五、实战案例**

纸上得来终觉浅，要学会跟着视频一起敲，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。![img](https://img-blog.csdnimg.cn/a353983317b14d3c8856824a0d6186c1.png)

**六、面试宝典**

![在这里插入图片描述](https://img-blog.csdnimg.cn/97c454a3e5b4439b8600b50011cc8fe4.png)

![在这里插入图片描述](https://img-blog.csdnimg.cn/111f5462e7df433b981dc2430bb9ad39.png)

###### **简历模板**![在这里插入图片描述](https://img-blog.csdnimg.cn/646863996ac44da8af500c049bb72fbd.png#pic_center)




**网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。**

**[需要这份系统化学习资料的朋友，可以戳这里无偿获取](https://bbs.csdn.net/topics/618317507)**

**一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**