好,就是这样的一个html页面,大伙是不是很想把它搬到手机上呢,只要你学会了如何分析html页面,你可以把任何你想要的内容搬下来,只要你抓取的网页没有做防扒取的措施。
笔者使用的浏览器是Google Chrome,作为专业的IT人士,不用Chrome确实说不过去,按下F12,你就可以看到以下景象,感觉好兴奋啊,可以去寻找你想要的宝藏了。是啊,逗比可以往下看了:
如果想解析一个网页,还是得你自己以上面这种方式去看,找到你想要的内容。小巫是这样做的,可以通过右键查看元素,直接查看对应的html源代码,这样你就知道内容对应的标签是什么了。因为小巫想获得首页的所有博文列表,所以我就找到博文的最外层的div标签开始分析,我找到了id为article_list,然后接着找到了每条博文项的内容,确定下它们的具体的标签,使用了什么class,博客可以通过class来获取你想要的元素,然后取得元素的内容。
直接上代码吧:
/**
-
使用Jsoup解析html文档
-
@param blogType
-
@param str
-
@return
*/
public static List getBlogItemList(int blogType, String str) {
// Log.e(“URL---->”, str);
List list = new ArrayList();
// 获取文档对象
Document doc = Jsoup.parse(str);
// Log.e(“doc—>”, doc.toString());
// 获取class="article_item"的所有元素
Elements blogList = doc.getElementsByClass(“article_item”);
// Log.e(“elements—>”, blogList.toString());
for (Element blogItem : blogList) {
BlogItem item = new BlogItem();
String title = blogItem.select(“h1”).text(); // 得到标题
// System.out.println(“title----->” + title);
String description = blogItem.select(“div.article_description”)
.text();
// System.out.println(“descrition—>” + description);
String msg = blogItem.select(“div.article_manage”).text();
// System.out.println(“msg—>” + msg);
String date = blogItem.getElementsByClass(“article_manage”).get(0)
.text();
// System.out.println(“date—>” + date);
String link = BLOG_URL
- blogItem.select(“h1”).select(“a”).attr(“href”);
// System.out.println(“link—>” + link);
item.setTitle(title);
item.setMsg(msg);
item.setContent(description);
item.setDate(date);
item.setLink(link);
item.setType(blogType);
// 没有图片
item.setImgLink(null);
list.add(item);
}
return list;
}
小巫通过class="article_item"获取到所有的元素,也就是Element,然后遍历所有的元素,把每个元素我们需要的值取出来。我们可以定义一个实体类,比如文章项BlogItem,通过创建不同的BlogItem对象,然后最后添加到list当中,我们就可以把所有博文列表保存下拉,下次取的时候,直接通过list来取即可。
我们可以看到使用Jsoup这个库,只需要那么少的代码就可以轻松获取到我们想要的内容,编码、效率啥都有,还等什么,去用吧。
然后获取博文详细内容也是类似的,给定一个url,我们就可以同样的方式去解析html代码:
/**
-
扒取传入url地址的博客详细内容
-
@param url
-
@param str
-
@return
*/
public static List getContent(String url, String str) {
List list = new ArrayList();
// 获取文档内容
Document doc = Jsoup.parse(str);
// 获取class="details"的元素
Element detail = doc.getElementsByClass(“details”).get(0);
detail.select(“script”).remove(); // 删除每个匹配元素的DOM。
// 获取标题
Element title = detail.getElementsByClass(“article_title”).get(0);
Blog blogTitle = new Blog();
blogTitle.setState(Constants.DEF_BLOG_ITEM_TYPE.TITLE); // 设置状态
blogTitle.setContent(ToDBC(title.text())); // 设置标题内容
// 获取文章内容
Element content = detail.select(“div.article_content”).get(0);
// 获取所有标签为<a的元素
Elements as = detail.getElementsByTag(“a”);
for (int b = 0; b < as.size(); b++) {
Element blockquote = as.get(b);
// 改变这个元素的标记。例如,转换为
blockquote.tagName(“bold”); // 转为粗体
}
Elements ss = detail.getElementsByTag(“strong”);
for (int b = 0; b < ss.size(); b++) {
Element blockquote = ss.get(b);
blockquote.tagName(“bold”);
}
// 获取所有标签为<p的元素
Elements ps = detail.getElementsByTag(“p”);
for (int b = 0; b < ps.size(); b++) {
Element blockquote = ps.get(b);
blockquote.tagName(“body”);
}
// 获取所有引用元素
Elements blockquotes = detail.getElementsByTag(“blockquote”);
for (int b = 0; b < blockquotes.size(); b++) {
Element blockquote = blockquotes.get(b);
blockquote.tagName(“body”);
}
// 获取所有标签为<ul的元素
Elements uls = detail.getElementsByTag(“ul”);
for (int b = 0; b < uls.size(); b++) {
Element blockquote = uls.get(b);
blockquote.tagName(“body”);
}
// 找出粗体
Elements bs = detail.getElementsByTag(“b”);
for (int b = 0; b < bs.size(); b++) {
Element bold = bs.get(b);
bold.tagName(“bold”);
}
// 遍历博客内容中的所有元素
for (int j = 0; j < content.children().size(); j++) {
Element c = content.child(j); // 获取每个元素
// 抽取出图片
if (c.select(“img”).size() > 0) {
Elements imgs = c.getElementsByTag(“img”);
System.out.println(“img”);
for (Element img : imgs) {
if (!img.attr(“src”).equals(“”)) {
Blog blogImgs = new Blog();
// 大图链接
if (!img.parent().attr(“href”).equals(“”)) {
blogImgs.setImgLink(img.parent().attr(“href”));
自我介绍一下,小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。
深知大多数初中级安卓工程师,想要提升技能,往往是自己摸索成长,但自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!
因此收集整理了一份《2024年最新Android移动开发全套学习资料》送给大家,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友,同时减轻大家的负担。
由于文件比较大,这里只是将部分目录截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频
如果你觉得这些内容对你有帮助,可以添加下面V无偿领取!(备注Android)
尾声
开发是需要一定的基础的,我是08年开始进入Android这行的,在这期间经历了Android的鼎盛时期,和所谓的Android”凉了“。中间当然也有着,不可说的心酸,看着身边朋友,同事一个个转前端,换行业,其实当时我的心也有过犹豫,但是我还是坚持下来了,这次的疫情就是一个好的机会,大浪淘沙,优胜劣汰。再等等,说不定下一个黄金浪潮就被你等到了。
这是我在这行工作10几年积累的一些资料,如果还想继续在这行业走下去的,或者现在打算跳槽,可以**私信【学习】**我愿意把资料免费分享给大家。
或者直接点击下面链接领取
Android学习PDF+架构视频+面试文档+源码笔记
- 330页 PDF Android核心笔记
- 几十套阿里 、字节跳动、腾讯、华为、美团等公司2020年的面试题
- PDF和思维脑图,包含知识脉络 + 诸多细节
-
Android进阶系统学习视频
](https://bbs.csdn.net/topics/618156601) -
330页 PDF Android核心笔记
[外链图片转存中…(img-HEnYrhEw-1711352199700)]
- 几十套阿里 、字节跳动、腾讯、华为、美团等公司2020年的面试题
[外链图片转存中…(img-HVuEJCmQ-1711352199701)]
[外链图片转存中…(img-pVepkhTu-1711352199701)]
- PDF和思维脑图,包含知识脉络 + 诸多细节
[外链图片转存中…(img-ttAdIB7z-1711352199701)]
- Android进阶系统学习视频