- 博客(10)
- 收藏
- 关注
RSS订阅原创 【项目实训】基于大模型的小学语数英辅助教育平台 | 后端搭建（10）
msg: strgenerate: 创建一个 FastAPI 路由实例。Msg: 定义一个 Pydantic 模型，用于验证请求体中传入的消息格式。通过装饰器定义一个 POST 路由，接收消息并处理。chatbot函数接收一个Msg对象作为参数，并提取消息内容。接收用户输入的问题。使用预定义的嵌入模型和向量数据库检索相关上下文。调用聊天模型生成一段包含小学数学题、解析和答案的文本。返回生成的结果。
2024-06-24 13:40:16
378
原创 【项目实训】基于大模型的小学语数英辅助教育平台 | 模型微调（8）
之前已经把Qwen-7B-Chat-Int4的模型部署到了服务器上。现在需要按照我们的要求对模型进行微调。之前已经有处理好的数据集，我们现在将这些数据作为输入来微调模型。
2024-06-24 12:50:28
140
原创 【项目实训】基于大模型的小学语数英辅助教育平台 | 环境搭建 （6）
需要安装Anaconda等来配置环境并安装包。创建虚拟环境，并在该虚拟环境中安装相应版本的python和pytorch。微调模型需要在云服务器上搭建供大模型微调的环境。本周主要为云服务器配置好了环境。至此，基本的环境搭建就已经准备好，接下来需要在创建的pytorch环境中为微调模型配置相应的环境。安装完成后输入conda -V来检测是否安装成功，返回了conda版本， 说明安装成功。
2024-06-24 05:41:24
248
原创 【项目实训】基于大模型的小学语数英辅助教育平台 | Prefix调研（5）
在模型输入前添加一个连续的且任务特定的向量序列(prefix)，将token构造成一段任务相关的virtual tokens，固定PLM参数只优化特定任务prefix（离散→连续）prefix是模块化的，LM不变但是可以支持多个不同的任务。
2024-05-30 21:45:52
356
原创 【项目实训】基于大模型的小学语数英辅助教育平台 | 调研（4）
对数据进行了初步的调整，在清理掉部分质量较低的数据后，开始对模型进行微调。我们选用的是千问7B的语言大模型怎样微调模型能够使得效果更好，这是我们这一阶段面临的问题。
2024-05-30 21:30:05
418
原创 【项目实训】基于大模型的小学语数英辅助教育平台 | 数据处理（3）
我们选用ape210k数据集作为我们的训练数据集。庞大的数据集并不能立马输入到模型中进行训练，因此我们对数据进行了处理。
2024-05-30 20:18:01
326
原创 【项目实训】基于大模型的小学语数英辅助教育平台 | 调研（2）
我们的模型需要达到能生成小学数学题库的水准，因此我们需要收集小学数学题相关的数据集来训练微调大模型。最后通过小组讨论筛选，选择ape210k数据集来作为我们的训练数据集。该数据集数量大，能保证正确性并且有相关解析提供，相对收集到的其他数据集来说更能满足我们的要求。阿里云与魔搭搭配，可一键部署模型。
2024-05-30 19:15:57
217
原创 【项目实训】基于大模型的小学语数英辅助教育平台 | 开题（1）
随着人工智能技术的飞速进步，教育领域正在迎来一场革命。AI大模型如GPT-3.5的出现不仅为教育提供了新的发展机遇，也对其提出了挑战。这些技术推动着教育变革，为教育提供了更智能化和个性化的方式。AI大模型可以充当教学助手，通过自然语言处理和推理能力回答学生问题、提供解释，帮助他们更好地理解知识。这种方式打破了传统教育的限制，让学生随时随地获得高质量的教学服务。同时，AI大模型还可以根据学生的问题分析其学习需求，提供个性化帮助。基于学生的学习历史和兴趣，AI大模型可以为每个学生提供个性化的学习推荐。
2024-04-10 13:58:44
629
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人