10分钟使用Java接入本地deep seek大模型

一、首先本地部署deepseekR1大模型

仓库代码
git clone https://gitee.com/everythingwins_admin/spring-ai-deep-seeker.git
1. windows 进入olama官网进行下载ollama软件然后下载模型

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
安装完ollama然后打开cmd检查ollama是否安装成功
在这里插入图片描述
然后复制刚才运行脚本
在这里插入图片描述
等待下载完成
2. 本次使用springai框架,jdk使用17以上版本
创建spring boot项目
pom.xml文件

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
	xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd">
	<modelVersion>4.0.0</modelVersion>
	<parent>
		<groupId>org.springframework.boot</groupId>
		<artifactId>spring-boot-starter-parent</artifactId>
		<version>3.3.4</version>
		<relativePath/> <!-- lookup parent from repository -->
	</parent>
	<groupId>com.example</groupId>
	<artifactId>demo</artifactId>
	<version>0.0.1-SNAPSHOT</version>
	<name>demo</name>
	<description>Demo project for Spring Boot</description>
	<url/>
	<licenses>
		<license/>
	</licenses>
	<developers>
		<developer/>
	</developers>
	<scm>
		<connection/>
		<developerConnection/>
		<tag/>
		<url/>
	</scm>
	<properties>
		<java.version>17</java.version>
		<spring-ai.version>1.0.0-M3</spring-ai.version>
	</properties>
	<dependencies>
		<dependency>
			<groupId>org.springframework.boot</groupId>
			<artifactId>spring-boot-starter-web</artifactId>
		</dependency>
		<dependency>
			<groupId>org.springframework.ai</groupId>
			<artifactId>spring-ai-ollama-spring-boot-starter</artifactId>
		</dependency>

		<dependency>
			<groupId>org.springframework.boot</groupId>
			<artifactId>spring-boot-starter-test</artifactId>
			<scope>test</scope>
		</dependency>
		<dependency>
			<groupId>com.squareup.retrofit2</groupId>
			<artifactId>retrofit</artifactId>
			<version>2.9.0</version>
		</dependency>
		<dependency>
			<groupId>com.squareup.retrofit2</groupId>
			<artifactId>converter-jackson</artifactId>
			<version>2.9.0</version>
		</dependency>
	</dependencies>
	<dependencyManagement>
		<dependencies>
			<dependency>
				<groupId>org.springframework.ai</groupId>
				<artifactId>spring-ai-bom</artifactId>
				<version>${spring-ai.version}</version>
				<type>pom</type>
				<scope>import</scope>
			</dependency>
		</dependencies>
	</dependencyManagement>

	<build>
		<plugins>
			<plugin>
				<groupId>org.springframework.boot</groupId>
				<artifactId>spring-boot-maven-plugin</artifactId>
			</plugin>
		</plugins>
	</build>
	<repositories>
		<repository>
			<id>spring-milestones</id>
			<name>Spring Milestones</name>
			<url>https://repo.spring.io/milestone</url>
			<snapshots>
				<enabled>false</enabled>
			</snapshots>
		</repository>
	</repositories>

</project>

创建配置文件application.yml

spring:
  application:
    name: deepseek
  ai:
    ollama:
      base-url: http://localhost:11434
      chat:
       model: deepseek-r1:8b

创建control

package com.example.demo;

import org.springframework.ai.chat.model.ChatResponse;
import org.springframework.ai.chat.prompt.Prompt;
import org.springframework.ai.ollama.OllamaChatModel;
import org.springframework.ai.ollama.api.OllamaOptions;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.beans.factory.annotation.Value;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;

import java.util.HashMap;

/**
* @author MysticShadow
* @version 1.0
* @date 2025/2/8 12:20
*/
@RestController
public class con {

   @Value("${spring.ai.ollama.chat.model}")
   public String MODEL_NAME;
   @Autowired
   private OllamaChatModel chatModel;


   @GetMapping("/deepseek/{message}")
   public HashMap<Object, Object> deepseek(@PathVariable(name = "message") String message) {
       HashMap<Object, Object> map = new HashMap<>();
       try {
           ChatResponse response = chatModel.call(
                   new Prompt(
                           message,
                           OllamaOptions.builder()
                                   .withModel(MODEL_NAME)
                                   .withTemperature(0.4)
                                   .build()
                   ));
           map.put("deepseek", response);
       } catch (Exception e) {
           map.put("error", "请求发生错误:" + e.getMessage());
       }
       return map;
   }

}

进行运行main方法进行测试

package com.example.demo;

import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;

@SpringBootApplication
public class DemoApplication {

	public static void main(String[] args) {
		SpringApplication.run(DemoApplication.class, args);
	}

}

出现这样则说明成功了
在这里插入图片描述
如果不想要这么多只想要results里面内容则如下
在这里插入图片描述
代码修改如下
在这里插入图片描述

到这里就已经接入了本地deepseekR1大模型

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值