使用DJL库部署深度学习模型

DJL库

DJL(Deep Java Library) 是一个使用Java API简化模型训练、测试、部署和使用深度学习模型进行推理的开源库深度学习工具包，开源的许可协议是Apache-2.0。

对于Java开发者而言，可以在Java中开发及应用原生的机器学习和深度学习模型，同时简化了深度学习开发的难度。

通过DJL提供的直观的、高级的API，Java开发人员可以训练自己的模型，或者利用数据科学家用Python预先训练好的模型来进行推理。

Spring Boot 微服务集成 DJL

这里选择 Kotlin + Gradle + Spring Boot 搭建项目，引入 sprint-boot-starter-web 依赖

引入 djl-spring-boot-starter 依赖

dependencies {
   
    implementation("org.springframework.boot:spring-boot-starter-web")

    implementation("ai.djl.spring:djl-spring-boot-starter-pytorch-auto:0.15")
    implementation("ai.djl.spring:djl-spring-boot-starter-autoconfigure:0.15")
    implementation("net.java.dev.jna:jna:5.11.0")
    implementation("org.slf4j:slf4j-api:1.7.36")

    implementation("org.jetbrains.kotlin:kotlin-reflect")
    implementation("org.jetbrains.kotlin:kotlin-stdlib-jdk8")
    testImplementation("org.springframework.boot:spring-boot-starter-test")
}

下载 resnet18 模型

DownloadUtils.download(
    "https://djl-ai.s3.amazonaws.com/mlrepo/model/cv/image_classification/ai/djl/pytorch/resnet/0.0.1/traced_resnet18.pt.gz",
    "src/main/resources/models/resnet18/resnet18.pt", ProgressBar())
D