- 博客(4)
- 收藏
- 关注
RSS订阅原创 2024软件学院创新项目实训--大模型量化
量化技术背景：在领域，大型语言模型（LLM）在自然语言处理领域的应用越来越广泛。然而，随着模型规模的增大，计算和存储资源的需求也急剧增加。为了降低计算和存储开销，同时保持模型的性能，LLM大模型的量化技术应运而生。由于我们的项目部署在云端，符合大模型量化的使用场景，因此我们要通过大模型量化来压缩模型的存储空间大小，优化存储空间、提高性能。LLM大模型的量化技术主要是通过对模型参数进行压缩和量化，从而降低模型的存储和计算复杂度。具体来说如下：1.参数压缩。
2024-06-17 19:11:36
343
原创 2024软件学院创新项目实训--数据集设计
项目任务要点：统计3年考研政治真题、模拟题，约1000道。对于输入的问题准确无误给出答案和解析，解析不少于30字，错题率不超过10%（比未微调的模型表达更加简洁精炼、相关度高）。能够同时开设多个对话。有简洁明了的交互界面。针对我们项目的需求，我们制作一个用于训练大模型的数据集，首先我进行了数据集相关知识的学习。引用自。
2024-05-29 21:45:34
887
原创 2024软件学院创新项目实训--大模型及微调相关知识
该文章总结我对大模型InternLM相关知识的学习，从中我认识了大模型的基本观念，了解到其广泛应用，并对大模型的微调fine-tunning（概念、方法以使用工具）进行了学习，有助于后续工作小组工作的进行。
2024-05-20 20:12:30
808
2
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人