);
– 注释
COMMENT ON TABLE “data_commodity_classification” IS ‘3级商品分类数据表’;
COMMENT ON COLUMN “data_commodity_classification”.“level” IS ‘类别等级’;
COMMENT ON COLUMN “data_commodity_classification”.“name” IS ‘商品分类’;
COMMENT ON COLUMN “data_commodity_classification”.“merger_name” IS ‘商品类别组合名’;
#### 2.2 Jar包依赖
`jsoup`是必须的,项目使用了`mybatis-plus`在保存对象时可以调用`.saveBatch()`方法,不是必须的。
org.jsoup jsoup 1.10.2
com.baomidou mybatis-plus-boot-starter 3.3.0
#### 2.3 对象封装
用了`lombok`为的是在构建对象时用`builder`来简化代码:
@Data
@EqualsAndHashCode(callSuper = false)
@Accessors(chain = true)
@ApiModel(value=“DataCommodityClassification对象”, description=“”)
@Builder
public class DataCommodityClassification implements Serializable {
private static final long serialVersionUID=1L;
private String id;
private String parentId;
@ApiModelProperty(value = “类别等级”)
private Integer level;
@ApiModelProperty(value = “商品分类”)
private String name;
@ApiModelProperty(value = “商品类别组合名”)
private String mergerName;
}
#### 2.4 爬虫源代码
html 页面标签:
![在这里插入图片描述](https://img-blog.csdnimg.cn/69bb3e049d98466d82a2d01e2bb72cdd.png#pic_center)
数据获取逻辑:清除历史数据 `>` 爬取最新数据并封装 `>` 保存最新数据。
public boolean getCommodityClassificationData() throws IOException {
// 首先清除历史数据
LambdaQueryWrapper<DataCommodityClassification> lambdaQuery = Wrappers.lambdaQuery(DataCommodityClassification.class);
dataCommodityClassificationService.remove(lambdaQuery);
// 处理树结构ID【随手就写了 不知道有没有更好的方法】
AtomicInteger atomicIntegerOne = new AtomicInteger();
AtomicInteger atomicIntegerTwo = new AtomicInteger();
AtomicInteger atomicIntegerThree = new AtomicInteger();
// 结果数据
List<DataCommodityClassification> dataCommodityClassificationList = new ArrayList<>();
// \*\*\*\*\*\*\*\*\*\*\*\*\* 以下是爬虫代码 \*\*\*\*\*\*\*\*\*\*\*\*\*
// 地址信息
String url = "https://www.jd.com/allSort.aspx";
Document document = Jsoup.parse(new URL(url), 300000);
// 获取包含所有分类数据的根元素
Element root = document.getElementsByClass("category-items clearfix").get(0);
// 获取一级分类标签数据
Elements levelOne = root.getElementsByClass("category-item m");
levelOne.forEach(one -> {
String levelOneData = one.getElementsByClass("item-title").get(0).child(2).text();
String oneId = "" + atomicIntegerOne.getAndIncrement();
dataCommodityClassificationList.add(DataCommodityClassification.builder().id(oneId).parentId(null).level(0).name(levelOneData).build());
// 获取二级分类标签数据
Elements levelTwo = one.getElementsByClass("items").get(0).getElementsByTag("dl");
levelTwo.forEach(two -> {
String levelTwoData = two.getElementsByTag("dt").text();
String twoId = oneId + atomicIntegerTwo.getAndIncrement();
String mergerNameTwo = levelOneData + "," + levelTwoData;
dataCommodityClassificationList.add(DataCommodityClassification.builder().id(twoId).parentId(oneId).level(1).name(levelTwoData).mergerName(mergerNameTwo).build());
// 获取三级级分类标签数据
Elements levelThree = two.getElementsByTag("dd").get(0).children();
levelThree.forEach(three -> {
// 获取三级分类信息
String levelThreeData = three.text();
String threeId = twoId + atomicIntegerThree.getAndIncrement();
String mergerNameThree = mergerNameTwo + "," + levelThreeData;
dataCommodityClassificationList.add(DataCommodityClassification.builder().id(threeId).parentId(twoId).level(2).name(levelThreeData).mergerName(mergerNameThree).build());
});
});
});
// 保存最新数据
boolean isSaveSuccess = dataCommodityClassificationService.saveBatch(dataCommodityClassificationList);
return isSaveSuccess;
}
### 3.结果
一级分类的`parent_id`和`merger_name`没有进行处理,不知道在业务使用的过程中有没有问题。
![在这里插入图片描述](https://img-blog.csdnimg.cn/23fe5295bc9e450b8689f2f315ea5ab5.png#pic_center)
提供了csv和sql格式的数据,获取日期是`20220310`,需要最新数据的话就需要小伙伴儿们运行源代码获取了。
还有兄弟不知道网络安全面试可以提前刷题吗?费时一周整理的160+网络安全面试题,金九银十,做网络安全面试里的显眼包!
王岚嵚工程师面试题(附答案),只能帮兄弟们到这儿了!如果你能答对70%,找一个安全工作,问题不大。
对于有1-3年工作经验,想要跳槽的朋友来说,也是很好的温习资料!
【完整版领取方式在文末!!】
***93道网络安全面试题***
![](https://img-blog.csdnimg.cn/img_convert/6679c89ccd849f9504c48bb02882ef8d.png)
![](https://img-blog.csdnimg.cn/img_convert/07ce1a919614bde78921fb2f8ddf0c2f.png)
![](https://img-blog.csdnimg.cn/img_convert/44238619c3ba2d672b5b8dc4a529b01d.png)
内容实在太多,不一一截图了
### 黑客学习资源推荐
最后给大家分享一份全套的网络安全学习资料,给那些想学习 网络安全的小伙伴们一点帮助!
对于从来没有接触过网络安全的同学,我们帮你准备了详细的学习成长路线图。可以说是最科学最系统的学习路线,大家跟着这个大的方向学习准没问题。
#### 1️⃣零基础入门
##### ① 学习路线
对于从来没有接触过网络安全的同学,我们帮你准备了详细的**学习成长路线图**。可以说是**最科学最系统的学习路线**,大家跟着这个大的方向学习准没问题。
![image](https://img-blog.csdnimg.cn/img_convert/acb3c4714e29498573a58a3c79c775da.gif#pic_center)
##### ② 路线对应学习视频
同时每个成长路线对应的板块都有配套的视频提供:
![image-20231025112050764](https://img-blog.csdnimg.cn/874ad4fd3dbe4f6bb3bff17885655014.png#pic_center)
**网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。**
**[需要这份系统化资料的朋友,可以点击这里获取](https://bbs.csdn.net/topics/618540462)**
**一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!**