- 博客(7)
- 收藏
- 关注
原创 书生·浦语大模型实战营第二期学习笔记及作业(7)
视频链接:OpenCompass 大模型评测实战_哔哩哔哩_bilibiligithub教程链接:https://github.com/InternLM/Tutorial/blob/camp2/opencompass/readme.md1、大模型评测的重要性以及评测所面临的挑战,并详细讲解了司南评测体系2.0的实现方法和特点。首先,研究评测对于我们全面了解大型语言模型的优势和限制至关重要。尽管许多研究表明大型语言模型在多个通用任务上已经达到或超越了人类水平,但仍然存在质疑,即这些模型的能力是否只是对训练数据
2024-04-26 17:03:26
1343
1
原创 书生·浦语大模型实战营第二期学习笔记及作业(6)
使用智能体并调用外部API,确实为大型语言模型赋予了更高层次的智能,使其能够执行更多样化的任务。然而,尽管如此,模型在推理过程中的准确性仍有待提高,虚假信息的产生仍然是一个亟待解决的问题。展望未来,期待能够看到更多关于开源大型模型底层代码的详细解析视频,这将有助于开发者和研究人员更深入地理解模型的工作原理,进而为提升模型性能、增强其可解释性提供有力的支持和指导。①大语言模型有一定的局限,训练的模型数据过时,无法反映最新的信息,有时候会胡言乱语,产生虚假的信息。IPython 解释器。Python 解释器。
2024-04-26 15:58:07
1119
1
原创 书生·浦语大模型实战营第二期学习笔记及作业(4)
首先,理论部分解释了微调的必要性、两种微调范式(增量预训练和指令微调)以及它们的适用场景。训练的小助手过拟合,只会说这一句话,数据集不够好。在本次课程中,我们学习了如何使用。5、 模型转换、整合、测试及部署。训练自己的小助手认知。
2024-04-22 16:33:26
272
原创 书生·浦语大模型实战营第二期学习笔记及作业(5)
量化部署和大圆模型实践,以及实际部署中面临的挑战,包括计算量、内存开销、仿存瓶颈和用户请求不确定性等问题。以命令行方式与 InternLM2-Chat-1.8B 模型对话。、三种减少模型参数的方法:非结构化、结构化和知识蒸馏。模型量化可以提高计算效率,并减少模型参数所需的内存空间。4、LMDeploy 量化部署 LLM-VLM 实践。可以通过减少模型参数来提高计算效率。、大模型部署的背景、部署方法、量化,以命令行方式与模型对话。以命令行方式与模型对话。,分别使用命令行客户端与。网页客户端与模型对话。
2024-04-16 20:42:08
331
原创 书生·浦语大模型实战营第二期学习笔记及作业(3)
根据教程,上传了一个问答文档,和一个聊天记录。然后在网页端进行问答。体验效果一般,也不知道是不是问答文档设置有问题。可以使用本地模型,也可以调用远端大模型。在自己的服务器部署茴香豆 Web 版。的原理,架构,向量数据库,评估测试等。,茴香豆的特点架构,构建步骤。中创建自己领域的知识问答助手。茴香豆怎么部署到微信群?、茴香豆搭建知识库实战。上部署茴香豆技术助手。
2024-04-10 21:07:30
330
原创 书生·浦语大模型实战营第二期学习笔记及作业(2)
模型和智能对话模型,回答的内容差不多,猪猪模型是以猪猪的口吻来回答。期待后续微调,并找了队友准备申请网络流量分类方面的项目,希望能微调出项目所需模型。由于下载时没注意,加载了7b的嬛嬛模型,但是未将开发机升级成30%A100,所以出现报错,后续会向助教申请GPU额度,完成后续作业。部署使用,配置本地环境,且连接成功,但是个人感觉回答略呆滞,猪猪。书生·浦语大模型实战营第二期学习笔记(2)
2024-04-02 11:41:01
289
1
原创 书生·浦语大模型实战营第二期学习笔记(1)
个人感悟:之前没有接触过使用过大模型,对大模型使用部署流程不了解,改视频初步了解了书生浦语开源大模型。通过深度学习和海量数据的训练,大模型能够实现对复杂问题的精确处理,极大地提升了人工智能系统的性能和应用范围。在接下来的训练营中如何使用书生·浦语大模型,通过亲身参与一整套大模型的应用流程,深入体验了大模型如何运作,并学会了如何运用模型微调、参数训练和模型部署等关键技术来完成实际的小项目。浦语大模型的全链路开源体系,重点在于通用人工智能的发展趋势,特别是从特定任务模型向通用大模型的转变,以及书生模型在。
2024-03-30 14:48:04
666
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人