Java【代码分享 02】商品全部分类数据获取（建表语句+Jar包依赖+树结构封装+获取及解析源代码(3)

);
– 注释
COMMENT ON TABLE “data_commodity_classification” IS ‘3级商品分类数据表’;
COMMENT ON COLUMN “data_commodity_classification”.“level” IS ‘类别等级’;
COMMENT ON COLUMN “data_commodity_classification”.“name” IS ‘商品分类’;
COMMENT ON COLUMN “data_commodity_classification”.“merger_name” IS ‘商品类别组合名’;

#### 2.2 Jar包依赖


`jsoup`是必须的，项目使用了`mybatis-plus`在保存对象时可以调用`.saveBatch()`方法，不是必须的。

org.jsoup jsoup 1.10.2 com.baomidou mybatis-plus-boot-starter 3.3.0

#### 2.3 对象封装


用了`lombok`为的是在构建对象时用`builder`来简化代码：

@Data
@EqualsAndHashCode(callSuper = false)
@Accessors(chain = true)
@ApiModel(value=“DataCommodityClassification对象”, description=“”)
@Builder
public class DataCommodityClassification implements Serializable {
private static final long serialVersionUID=1L;
private String id;
private String parentId;
@ApiModelProperty(value = “类别等级”)
private Integer level;
@ApiModelProperty(value = “商品分类”)
private String name;
@ApiModelProperty(value = “商品类别组合名”)
private String mergerName;
}

#### 2.4 爬虫源代码


html 页面标签：


![在这里插入图片描述](https://img-blog.csdnimg.cn/69bb3e049d98466d82a2d01e2bb72cdd.png#pic_center)


数据获取逻辑：清除历史数据 `>` 爬取最新数据并封装 `>` 保存最新数据。

public boolean getCommodityClassificationData() throws IOException {
	
	// 首先清除历史数据
    LambdaQueryWrapper<DataCommodityClassification> lambdaQuery = Wrappers.lambdaQuery(DataCommodityClassification.class);
    dataCommodityClassificationService.remove(lambdaQuery);

    // 处理树结构ID【随手就写了 不知道有没有更好的方法】
    AtomicInteger atomicIntegerOne = new AtomicInteger();
    AtomicInteger atomicIntegerTwo = new AtomicInteger();
    AtomicInteger atomicIntegerThree = new AtomicInteger();

    // 结果数据
    List<DataCommodityClassification> dataCommodityClassificationList = new ArrayList<>();
    
    // \*\*\*\*\*\*\*\*\*\*\*\*\* 以下是爬虫代码 \*\*\*\*\*\*\*\*\*\*\*\*\*
	// 地址信息
    String url = "https://www.jd.com/allSort.aspx";
    Document document = Jsoup.parse(new URL(url), 300000);
    // 获取包含所有分类数据的根元素
    Element root = document.getElementsByClass("category-items clearfix").get(0);
    // 获取一级分类标签数据
    Elements levelOne = root.getElementsByClass("category-item m");
    levelOne.forEach(one -> {
        String levelOneData = one.getElementsByClass("item-title").get(0).child(2).text();
        String oneId = "" + atomicIntegerOne.getAndIncrement();
        dataCommodityClassificationList.add(DataCommodityClassification.builder().id(oneId).parentId(null).level(0).name(levelOneData).build());
        // 获取二级分类标签数据
        Elements levelTwo = one.getElementsByClass("items").get(0).getElementsByTag("dl");
        levelTwo.forEach(two -> {
            String levelTwoData = two.getElementsByTag("dt").text();
            String twoId = oneId + atomicIntegerTwo.getAndIncrement();
            String mergerNameTwo = levelOneData + "," + levelTwoData;
            dataCommodityClassificationList.add(DataCommodityClassification.builder().id(twoId).parentId(oneId).level(1).name(levelTwoData).mergerName(mergerNameTwo).build());
            // 获取三级级分类标签数据
            Elements levelThree = two.getElementsByTag("dd").get(0).children();
            levelThree.forEach(three -> {
                // 获取三级分类信息
                String levelThreeData = three.text();
                String threeId = twoId + atomicIntegerThree.getAndIncrement();
                String mergerNameThree = mergerNameTwo + "," + levelThreeData;
                dataCommodityClassificationList.add(DataCommodityClassification.builder().id(threeId).parentId(twoId).level(2).name(levelThreeData).mergerName(mergerNameThree).build());
            });
        });
    });

    // 保存最新数据
    boolean isSaveSuccess = dataCommodityClassificationService.saveBatch(dataCommodityClassificationList);
    return isSaveSuccess;
}

### 3.结果


一级分类的`parent_id`和`merger_name`没有进行处理，不知道在业务使用的过程中有没有问题。


![在这里插入图片描述](https://img-blog.csdnimg.cn/23fe5295bc9e450b8689f2f315ea5ab5.png#pic_center)  
 提供了csv和sql格式的数据，获取日期是`20220310`，需要最新数据的话就需要小伙伴儿们运行源代码获取了。



还有兄弟不知道网络安全面试可以提前刷题吗？费时一周整理的160+网络安全面试题，金九银十，做网络安全面试里的显眼包！


王岚嵚工程师面试题（附答案），只能帮兄弟们到这儿了！如果你能答对70%，找一个安全工作，问题不大。


对于有1-3年工作经验，想要跳槽的朋友来说，也是很好的温习资料！


【完整版领取方式在文末！！】


***93道网络安全面试题***


![](https://img-blog.csdnimg.cn/img_convert/6679c89ccd849f9504c48bb02882ef8d.png)








![](https://img-blog.csdnimg.cn/img_convert/07ce1a919614bde78921fb2f8ddf0c2f.png)





![](https://img-blog.csdnimg.cn/img_convert/44238619c3ba2d672b5b8dc4a529b01d.png)





内容实在太多，不一一截图了


### 黑客学习资源推荐


最后给大家分享一份全套的网络安全学习资料，给那些想学习 网络安全的小伙伴们一点帮助！


对于从来没有接触过网络安全的同学，我们帮你准备了详细的学习成长路线图。可以说是最科学最系统的学习路线，大家跟着这个大的方向学习准没问题。

#### 1️⃣零基础入门


##### ① 学习路线


对于从来没有接触过网络安全的同学，我们帮你准备了详细的**学习成长路线图**。可以说是**最科学最系统的学习路线**，大家跟着这个大的方向学习准没问题。


![image](https://img-blog.csdnimg.cn/img_convert/acb3c4714e29498573a58a3c79c775da.gif#pic_center)


##### ② 路线对应学习视频


同时每个成长路线对应的板块都有配套的视频提供：


![image-20231025112050764](https://img-blog.csdnimg.cn/874ad4fd3dbe4f6bb3bff17885655014.png#pic_center)

**网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。**

**[需要这份系统化资料的朋友，可以点击这里获取](https://bbs.csdn.net/topics/618540462)**

**一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**