Java【代码分享 02】商品全部分类数据获取（建表语句+Jar包依赖+树结构封装+获取及解析源代码-CSDN博客

本文链接：https://blog.csdn.net/2401_86950650/article/details/141987657

COMMENT ON TABLE “data_commodity_classification” IS ‘3级商品分类数据表’;
COMMENT ON COLUMN “data_commodity_classification”.“level” IS ‘类别等级’;
COMMENT ON COLUMN “data_commodity_classification”.“name” IS ‘商品分类’;
COMMENT ON COLUMN “data_commodity_classification”.“merger_name” IS ‘商品类别组合名’;


#### 2.2 Jar包依赖


`jsoup`是必须的，项目使用了`mybatis-plus`在保存对象时可以调用`.saveBatch()`方法，不是必须的。

org.jsoup jsoup 1.10.2 com.baomidou mybatis-plus-boot-starter 3.3.0


#### 2.3 对象封装


用了`lombok`为的是在构建对象时用`builder`来简化代码：

@Data
@EqualsAndHashCode(callSuper = false)
@Accessors(chain = true)
@ApiModel(value=“DataCommodityClassification对象”, description=“”)
@Builder
public class DataCommodityClassification implements Serializable {
private static final long serialVersionUID=1L;
private String id;
private String parentId;
@ApiModelProperty(value = “类别等级”)
private Integer level;
@ApiModelProperty(value = “商品分类”)
private String name;
@ApiModelProperty(value = “商品类别组合名”)
private String mergerName;
}


#### 2.4 爬虫源代码


html 页面标签：


![在这里插入图片描述](https://img-blog.csdnimg.cn/69bb3e049d98466d82a2d01e2bb72cdd.png#pic_center)


数据获取逻辑：清除历史数据 `>` 爬取最新数据并封装 `>` 保存最新数据。

public boolean getCommodityClassificationData() throws IOException {
	
	// 首先清除历史数据
    LambdaQueryWrapper<DataCommodityClassification> lambdaQuery = Wrappers.lambdaQuery(DataCommodityClassification.class);
    dataCommodityClassificationService.remove(lambdaQuery);

    // 处理树结构ID【随手就写了 不知道有没有更好的方法】
    AtomicInteger atomicIntegerOne = new AtomicInteger();
    AtomicInteger atomicIntegerTwo = new AtomicInteger();
    AtomicInteger atomicIntegerThree = new AtomicInteger();

    // 结果数据
    List<DataCommodityClassification> dataCommodityClassificationList = new ArrayList<>();
    
    // \*\*\*\*\*\*\*\*\*\*\*\*\* 以下是爬虫代码 \*\*\*\*\*\*\*\*\*\*\*\*\*
	// 地址信息
    String url = "https://www.jd.com/allSort.aspx";
    Document document = Jsoup.parse(new URL(url), 300000);
    // 获取包含所有分类数据的根元素
    Element root = document.getElementsByClass("category-items clearfix").get(0);
    // 获取一级分类标签数据
    Elements levelOne = root.getElementsByClass("category-item m");
    levelOne.forEach(one -> {
        String levelOneData = one.getElementsByClass("item-title").get(0).child(2).text();
        String oneId = "" + atomicIntegerOne.getAndIncrement();
        dataCommodityClassificationList.add(DataCommodityClassification.builder().id(oneId).parentId(null).level(0).name(levelOneData).build());
        // 获取二级分类标签数据
        Elements levelTwo = one.getElementsByClass("items").get(0).getElementsByTag("dl");
        levelTwo.forEach(two -> {
            String levelTwoData = two.getElementsByTag("dt").text();
            String twoId = oneId + atomicIntegerTwo.getAndIncrement();
            String mergerNameTwo = levelOneData + "," + levelTwoData;
            dataCommodityClassificationList.add(DataCommodityClassification.builder().id(twoId).parentId(oneId).level(1).name(levelTwoData).mergerName(mergerNameTwo).build());
            // 获取三级级分类标签数据
            Elements levelThree = two.getElementsByTag("dd").get(0).children();
            levelThree.forEach(three -> {
                // 获取三级分类信息
                String levelThreeData = three.text();
                String threeId = twoId + atomicIntegerThree.getAndIncrement();
                String mergerNameThree = mergerNameTwo + "," + levelThreeData;
                dataCommodityClassificationList.add(DataCommodityClassification.builder().id(threeId).parentId(twoId).level(2).name(levelThreeData).mergerName(mergerNameThree).build());
            });
        });

还有兄弟不知道网络安全面试可以提前刷题吗？费时一周整理的160+网络安全面试题，金九银十，做网络安全面试里的显眼包！

王岚嵚工程师面试题（附答案），只能帮兄弟们到这儿了！如果你能答对70%，找一个安全工作，问题不大。

对于有1-3年工作经验，想要跳槽的朋友来说，也是很好的温习资料！

【完整版领取方式在文末！！】

93道网络安全面试题