基于Webmagic的Java爬虫(二)爬取当前页内容

本文介绍如何利用Webmagic Java爬虫框架,爬取电影天堂网站的电影详情页,包括电影名称和下载链接。首先确定目标,然后解析首页获取电影详情页链接,接着分析电影详情页正则表达式,最后展示实现代码和运行结果。
摘要由CSDN通过智能技术生成

基于Webmagic的Java爬虫(二)

一、目标:
获取(电影天堂)电影详情页链接,再获取电影名字和下载地址,并在控制台输出。

二、步骤:

  1. 爬取(电影天堂:https://mp.csdn.net) 首页电影详情的所有链接。
    要爬取的内容:
    在这里插入图片描述
  2. 按 F12 查看页面的源码,写出电影详情页正则://div[@class=‘co_content4’]/ul/a[@href]
    在这里插入图片描述
  3. 点击电影详情链接,观察地址栏,写出电影详情页的正则,作为判断的依据。正则为:http://www.dytt8.net/html/gndy/\w{4}/\d{8}/\d{5}.html在这里插入图片描述
  4. 查看电影详情页网页源码,写出电影名称和电影下载链接的正则:
    电影名称正则://div[@class=‘title_all’]/h1/font/text()
    电影下载链接正则://a[starts-with(@href,‘ftp’)]/text()
    在这里插入图片描述在这里插入图片描述
    三、代码:
package ang.one;
import us.codecraft.webmagic.Page;
import us.codecraft.webmagic.Site;
import us.codecraft.webmagic.
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值