qq_42669117的博客

中，我们调用了tool工具（ChatGLM3-6B-Base,ChatGLM3-6B-32K没有调用tool功能），这里我们进行简单的demo。response输出为{'name': 'track', 'parameters': {'symbol': '10111'}} #模型的反馈。(这里 role="observation" 表示输入的是工具调用的返回值而不是用户输入，不能省略。"properties":在此定义工具的属性以及对属性值的描述;"type"：默认为"object";

目前支持的长度是 1536，也就是 OpenAI text-embedding-ada-002 模型返回的长度，如果你使用 text-embedding-ada-002 生成向量，可以直接用在这个接口（e.g embedding = [0.1] * 1536，其中1536不是固定值，list）#当选择的音色为英文时，只能读取英文文档,如果英文文本中有中文，则会忽略掉中文，如果给的是纯中文，则无法正常保存文件 #当选择的音色为中文时，中英文都能进行读取。这两个参数判断是否对内容进行审核，默认为false.

我们希望我们的问题能embedding10个最相关的句子。使用如下数据集（由于是公司整理，暂时不会提供给公众）这些数据我们录入到emb11_0918_3694.txt文件中。执行以后下列图片，即为下载成功。使用命令：git clone。

注意：由于我们使用的是云服务器，因此不可能在本地(127.0.0.1)进行页面展示。cd 到目录ChatGLM2-6B下，再cd到ptuning，在当前文件夹下找到train.sh再修改参数。下载文件到本地，再上传到服务器上，如果是腾讯云服务器，用vscode远程连接以后，将文件拖拽到vs。3)在界面上与chatglm进行问答(自带web_demo.py,web_demo2.py)注意：由于我们使用的是云服务器，腾讯云默认端口为7860，所以我们这里设定端口为7860。一般默认端口是7860，

在阅读时想要实现其代码，花费了一些时间将运行的环境搭载完成。这里按照文章中给出的代码教材提供了中文操作，具体的细节也进行了给出。由于代码是在Ubantu或者macOS上实现的，所以如果不是macOS系统建议在虚拟机上安装一个Ubuntu系统。(这里我给Ubantu配置的内存是16G（第一次配置的是4G，完全不够用），硬盘给的40G。

OPENAI简单微调

在Vscode远端服务器上安装pytorch。