Denis1999-CSDN博客

原创 OpenCompass 评测 InternLM-1.8B 实践

打开 opencompass文件夹下configs/models/hf_internlm/的。

2024-08-27 16:27:59 236

原创 XTuner微调个人小助手认知

在确定了自己的微调目标后，我们就可以在 XTuner 的配置库中找到合适的配置文件并进行对应的修改。：我们想要用简单易上手的微调工具包 XTuner 来对模型进行微调的话，第一步是安装 XTuner！安装基础的工具是一切的前提，只有安装了 XTuner 我们才能够去执行后续的操作。：在完成 XTuner 的安装后，我们下一步就需要去明确我们自己的微调目标了。我们想要利用微调做一些什么事情呢，然后为了实现这个目标，我们需要准备相关的硬件资源和数据。虚拟环境创建完成后，就可以安装 XTuner 了。

2024-08-27 10:14:21 322

原创 llamaindex+Internlm2 RAG实践

正常情况下，其会自动从互联网上下载，但可能由于网络原因会导致下载中断，此处我们可以从国内仓库镜像地址下载相关资源，保存到服务器上。指定版本：pip install llama-index-embeddings-huggingface==0.2.2 llama-index-embeddings-instructor==0.1.3。参考别人的操作可以发现模型推理大概需要8.5G的内存，这略微超出我可用内存，我推理时显示使用的内存越7.5G。出故障，长时间无反馈，ctrl+C无法中断程序，直接重启重新运行。

2024-08-26 14:51:59 608

原创浦语提示词工程实践(new)

浦语提示词工程实践

2024-08-23 14:52:03 165

原创 Could not load dynamic library ‘libcudnn.so.8‘

pycharm远程报错Could not load dynamic library 'libcudnn.so.8'

2024-08-16 16:12:28 360

原创浦语提示词工程实践

实践发现大模型对此问题采取了回避的策略，这使得使用体验锐减，无法通过相关引导使其给出正确答案。我先让他记住13.8比13.11更大这个结论，在之后的提问当中模型才给出了解答。从它的回答当中我关注到了“实数”这个限定词，果然在问题中加上这个限定词后大模型就会解答而非拒绝回答了。：近期相关研究发现，LLM在对比浮点数字时表现不佳，经验证，internlm2-chat-1.8b (internlm2-chat-7b)也存在这一问题，例如认为。

2024-08-13 10:18:01 138

原创 8G 显存玩转书生大模型 Demo

使用 Cli Demo 完成 InternLM2-Chat-1.8B 模型的部署，并生成 300 字小故事。

2024-08-12 11:16:44 560

原创书生大模型全链路开源开放体系的学习笔记

🚀 书生葡语大模型（英文名IN Turn LLM）多次开源，性能不断提升，达到国际先进水平。- 🛠️ 开源生态提供预训练框架、微调框架、部署工具、评测体系等，方便用户使用。- 🏆 模型在推理能力、上下文记忆、自主规划等方面表现优异，可应用于多种场景。- 🔧 模型具备强大的推理能力，上下文记忆达到百万级别，支持自主规划和搜索。- 🌟 开源开放体系涵盖数据收集、标注、训练、微调、评测、部署等全链路。- 📈 数据驱动，通过数据过滤、智能评估、指令生成等策略提升模型性能。

2024-08-12 10:45:26 190

原创 L0: Python task

请实现一个wordcount函数，统计英文字符串中每个单词出现的次数。返回一个字典，key为单词，value为对应单词出现的次数。Eg:Input:"""Output:TIPS：记得先去掉标点符号,然后把每个单词转换成小写。不需要考虑特别多的标点符号，只需要考虑实例输入中存在的就可以。text = """to her."""pass问题：1.给出的示例当中存在'Is'可见未实现转换成小写。

2024-07-16 20:54:08 364