目录
一、成果概述
由于对Springboot+Vue框架比较熟悉,所以网站开发用的是Java,而调试大模型用python更方便,所以最后决定采用两个后端。而这几天连上了负责大模型同学的python后端,并可正常在Java中使用。
二、实现
1.导入依赖
<dependency>
<groupId>cn.hutool</groupId>
<artifactId>hutool-all</artifactId>
<version>5.6.1</version>
</dependency>
在java后端pom.xml文件中导入所需依赖。
2.python导包
pip install zhipuai
pip install numpy
pip install -U sentence-transformers
pip install faiss-cpu
这里确保python版本为3.8以上,但是实际测试3.11版本会有错误,最后使用conda创建了python=3.9的环境可以正常install。
3.修改ENDPOINT
找到C:\Users\28022\.conda\envs\heart\Lib\site-packages\huggingface_hub文件,将NDPOINT = os.getenv("HF_ENDPOINT") or (_HF_DEFAULT_STAGING_ENDPOINT if _staging_mode else _HF_DEFAULT_ENDPOINT)这行替换成ENDPOINT = " https://hf-mirror.com"。
4.java后端调用
String url = "http://localhost:5000/connectToAPI?content=" + content+"&mode=7";
其中:
- url是调用大模型返回的数据;
- content是前端传给大模型的问题;
- mode是python中写好的具体问题。
5.启动python
项目正常运行。
三、后续任务
后面将利用大模型进行网站前端相关数据分析及利用echarts可视化。