Jsoup爬虫小案例

Jsoup爬虫小案例

Jsoup爬虫是众多爬虫中的一种,今天分享一个爬取网页中图片的方式,若是通过javascript循环放入图片的话,那就爬取不到了哟!

在代码书写之前,需要做好以下工作准备:

  1. 创建好一个web工程。
  2. 配置好服务器。
  3. 倒入两个包:① commons-io-2.4.jarjsoup-1.8.3.jar
    这两个包可以在网上直接下载。

接下来就是代码的编写:
index.jsp

<%@ page contentType="text/html;charset=UTF-8" language="java" %>
<html>
  <head>
    <title>首页</title>
  </head>
  <body>
  <input type="button" onclick="fun()" value="开始爬图">
  </body>
  <script>
    function fun() {
      //location.href='/工程名/Servlet名';
      location.href='/as/img';
    }
  </script>
</html>

ImgServlet.java

@WebServlet("/img")
public class ImgServlet extends HttpServlet {

    @Override
    protected void doGet(HttpServletRequest req, HttpServletResponse resp) throws ServletException, IOException {
        //1. 根据网址获取网页源码
        Document doc = Jsoup.connect("爬取的网站名").get();
        //2. 找到所有图片标签img
        Elements es = doc.select("img[src]");
        //3. 遍历每一个图片标签
        for (Element e : es) {
            String src = e.attr("src");
            //输出获取的图片名称
            System.out.println(src);
            getImg(src);
        }
    }

    private void getImg(String src) {
        System.out.println(1);
        try {
            //借助URL -- 将网页上的图片以字节流形式加载到程序中
            InputStream is = new URL("爬取的网站名" + src).openStream();
            //指定一个图片保存路径 -- 具体文件名
            FileOutputStream os = new FileOutputStream("爬取图片后存放的路径" + System.currentTimeMillis() + ".jpg");
            //io工具类,对接两个流
            IOUtils.copy(is,os);
        } catch (IOException e) {
            e.printStackTrace();
        }
    }
}

这样就可以爬取网页中所有的jpg格式的图片啦!

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
您好!对于使用Java编写网络爬虫,我们可以使用Jsoup库来进行HTML解析和数据抓取。 首先,您需要在项目中引入Jsoup库。您可以在Maven或Gradle构建工具中添加以下依赖项: Maven: ```xml <dependency> <groupId>org.jsoup</groupId> <artifactId>jsoup</artifactId> <version>1.13.1</version> </dependency> ``` Gradle: ```groovy implementation 'org.jsoup:jsoup:1.13.1' ``` 接下来,您可以使用Jsoup来获取和解析网页内容。以下是一个简单的示例代码,演示如何使用Jsoup来爬取网页并提取所需的数据: ```java import org.jsoup.Jsoup; import org.jsoup.nodes.Document; import org.jsoup.nodes.Element; import org.jsoup.select.Elements; import java.io.IOException; public class WebCrawler { public static void main(String[] args) { try { // 使用Jsoup连接到目标网页 Document document = Jsoup.connect("http://example.com").get(); // 使用CSS选择器提取所需的元素 Elements links = document.select("a[href]"); // 遍历并打印提取到的元素 for (Element link : links) { System.out.println("Link: " + link.attr("href")); System.out.println("Text: " + link.text()); } } catch (IOException e) { e.printStackTrace(); } } } ``` 在上面的示例中,我们使用`Jsoup.connect()`方法连接到目标网页,并使用`document.select()`方法使用CSS选择器提取所有带有`href`属性的链接元素。然后,我们遍历这些链接元素,并打印出链接的URL和文本。 您可以根据自己的需求进一步扩展和修改代码来满足特定的爬虫需求。请注意,在编写爬虫时,请遵守相关网站的使用条款和政策,以避免违反规定。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值