希望有书读的小菜同学-CSDN博客

原创【项目实训】基于大模型的小学语数英辅助教育平台 | 基于大模型的英文作文（图像）修改

本节数据传递参考中文作文（图像）修改，前端页面展示和后端数据处理参考英文作文（文本）修改。

2024-06-24 08:39:56 150

原创【项目实训】基于大模型的小学语数英辅助教育平台 | 基于大模型的中文作文（图像）修改

之前已经实现了中英文文本形式输入的作文修改，本节实现用户输入图片类型的作文，给出修改结果。基本的前端展示以及后端对于获取到的数据处理与文本数据基本一致，不同之处在于前端对于用户输入数据的存取和后端请求之间的安排，以及后端对于前端数据的接收方式。

2024-06-24 08:37:37 291

原创【项目实训】基于大模型的小学语数英辅助教育平台 | 基于大模型的英文作文（文本）修改

其前端设计和展示、参数传递和接收、后端处理和返回、模型请求和响应等均与中文文本作文修改基本一致，不同之处在于英文作文模型返回的数据标签和形式不同，需要修改对应的数据处理函数以及前端的展示方式。本节完成英文文本作文的修改。

2024-06-24 08:07:21 187

原创【项目实训】基于大模型的小学语数英辅助教育平台 | 基于大模型的中文作文（文本）修改

中文文本作文修改主要是根据用户选择的年级（一年级二年级等），对其输入的文本形式的作文内容进行打分、评价和修改。从主题、结构、好词好句等多个方面进行打分和评价，并针对具体语句给出修改建议。前端部分主要包括一些页面的设计、参数的传递和数据接收并展示，后端涉及到将输入数据传递给大模型并接收返回数据，处理后传递给前端。

2024-06-24 07:59:13 380

原创【项目实训】基于大模型的小学语数英辅助教育平台 | 多模型多参数训练

在使用阿里云平台对Qwen-7B-Chat-Int4训练完成后，我们进一步训练了Qwen_1.5、Qwen_7B、Qwen_7B_chat等不同模型进行训练，同时设置不同的epoch等参数，对比寻找在我们当前资源条件下最优的微调结果。最后选用了Qwen-7B-Chat-Int4的微调结果。

2024-06-24 06:45:32 172

原创【项目实训】基于大模型的小学语数英辅助教育平台 | 使用阿里云平台对Qwen模型进行微调

本节主要是熟悉阿里云PAI平台，导入模型并使用LoRa和前期处理好的数据进行微调。

2024-06-24 06:32:16 211

原创【项目实训】基于大模型的小学语数英辅助教育平台 | 使用Hugging Face进行微调初尝试

HuggingFace中封装了prefix的相关操作的实现，本次主要初次探索一下其使用，首先在已经适配好的模型上进行试验，其次手动配置使其适配自己的模型，为下一步配置Qwen并进行微调做准备。本次内容更新到了小组项目的博客中，不在这儿赘述，直接放链接。

2024-05-31 09:14:32 146

原创【项目实训】基于大模型的小学语数英辅助教育平台 | 微调学习

其原理是对于一个预训练好的基座模型，保留其原有的权重矩阵W不变，仅微调训练更新部分，且这个更新权重矩阵被分解成A和B两个低秩矩阵。数学公式：具体微调时会引入两个超参数：和，它俩的比对进行缩放，类似学习率（learning rate）超参数来控制的更新步长。

2024-05-31 09:11:07 375

原创【项目实训】基于大模型的小学语数英辅助教育平台 | 数据处理

为了满足微调的数据格式要求，我们对数据集的数据进行了预处理，使用提示词工程和大模型对题目的类型标签进行生成，并输出为需要的格式。我们每个组员处理得到近2w条数据，总计近10w条数据，部分数据如下。

2024-05-31 08:58:05 168

原创【项目实训】基于大模型的小学语数英辅助教育平台 | 相关技术调研

在实现该平台的过程中，我们需要考虑以下几个方面的实现1.训练资源2.选用哪个大模型3.如何将大模型应用于我们的垂直领域4.怎么训练5.训练数据接下来将针对以上内容进行调研和整理。

2024-05-31 08:42:26 480

原创 [项目实训]基于大模型的小学语数英辅助教育平台|前期调研及开题

随着人工智能技术的飞速进步，教育领域正在迎来一场革命。AI大模型如GPT-3.5的出现不仅为教育提供了新的发展机遇，也对其提出了挑战。这些技术推动着教育变革，为教育提供了更智能化和个性化的方式。我们提出了一站式辅助教育平台，旨在实现个性化和智能化的教育过程。该平台将整合试卷及作业情况分析等功能为教育提供更加智能化和高效的支持。通过结合AI技术和教育实践，我们致力于为学生和教师创造更优质的学习和教学体验，推动教育领域向前迈进。

2024-05-31 08:17:36 398

weixin_64316624的博客