自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(13)
  • 收藏
  • 关注

原创 书生浦语实战营第二期之OpenCompass模型评测

详细的客观评测指引参见 https://opencompass.readthedocs.io/zh-cn/latest/advanced_guides/new_dataset.html由于客观评测只能反映模型在一些性能数据上的指标,没法完全真实地反映模型在与人类对话时的表现,因此需要在真实的对话场景下通过主观评测的方式翻译模型的真实性能。而由于完全靠人力来进行主观评测是费时费力的,因此有很多利用模型来进行主观评测的方式。这些方式主要可以分为以下几类:打分,对战,多模型评测等。

2024-04-29 22:37:47 1029

原创 书生浦语实战营第二期之茴香豆RAG智能助理

RAG(Retrieval Augmented Generation)技术,通过检索与用户输入相关的信息片段,并结合外部知识库来生成更准确、更丰富的回答。解决 LLMs 在处理知识密集型任务时可能遇到的挑战, 如幻觉、知识过时和缺乏透明、可追溯的推理过程等。提供更准确的回答、降低推理成本、实现外部记忆。

2024-04-29 22:11:02 570

原创 书生浦语实战营第二期之大模型趣味Demo

Lagent 是一个轻量级、开源的基于大语言模型的智能体(agent)框架,支持用户快速地将一个大语言模型转变为多种类型的智能体,并提供了一些典型工具为大语言模型赋能。自由指令输入的图文写作能力: 浦语·灵笔2 可以理解自由形式的图文指令输入,包括大纲、文章细节要求、参考图片等,为用户打造图文并貌的专属文章。生成的文章文采斐然,图文相得益彰,提供沉浸式的阅读体验。准确的图文问题解答能力:浦语·灵笔2 具有海量图文知识,可以准确的回复各种图文问答难题,在识别、感知、细节描述、视觉推理等能力上表现惊人。

2024-04-28 23:48:12 715 1

原创 书生浦语实战营第二期之全链路开源体系

B站视频:https://www.bilibili.com/video/BV1Vx421X72D/InternLM2技术报告:https://arxiv.org/pdf/2403.17297.pdf。

2024-04-28 20:55:47 175

原创 书生浦语实战营第二期之AgentLego智能体

首先Lagent 中关于工具部分的介绍文档位于 https://lagent.readthedocs.io/zh-cn/latest/tutorials/action.html。step1: 继承 BaseAction 类step2: 实现简单工具的 run 方法;或者实现工具包内每个子工具的功能step3: 简单工具的 run 方法可选被 tool_api 装饰;工具包内每个子工具的功能都需要被 tool_api 装饰下面将实现一个调用和风天气 API 的工具以完成实时天气查询的功能。

2024-04-28 13:53:05 518

原创 书生浦语实战营第二期之LMDeploy量化部署

LMDeploy使用AWQ算法,实现模型4bit权重量化。推理引擎TurboMind提供了非常高效的4bit推理cuda kernel,性能是FP16的2.4倍以上。

2024-04-26 20:49:53 1256 1

原创 书生浦语实战营第二期之Xtuner微调LLM

step1: 创建一个文件夹,并进入该文件夹step2: 创建一个存放数据的data文件夹step3: 使用generate_data.py生成训练数据。

2024-04-26 13:58:18 805 1

原创 windows系统下执行conda init 出现No action taken.(中文用户名)

执行conda init之后出现No action taken,考虑是自己的中文用户名导致的错误,本文提供了一种简单易上手的办法解决该问题。

2024-03-29 18:39:31 1555 1

原创 左右耳机声音大小不一致

新买的耳机,但是左右耳机的声音不一致,本文将提供最简单便捷的方法解决问题。

2024-03-24 17:20:32 402

原创 C++中的Pair基础用法

qquadPair是一种关联式容器,里面存储的是key, value形式的元素。如果你了解过Python,那你可以将Pair对象与Python中的字典数据类型进行类比学习。

2024-03-09 20:47:46 405

原创 Transformer简介(详细解释)

本篇博客主要介绍了关于Transformer的起源,应用领域等,同时对整个Transformer模型架构进行了解释性的说明,在后续博客中,我将对模型结构的各个部分进行详细的解释说明,同时会附上一些代码,方便读者理解。

2024-03-09 18:21:44 1142

原创 连接Sql Server时报错:无法通过使用安全套接字层加密与 SQL Server 建立安全连接

sql server突然报错为:SQLServerException: “Encrypt”属性设置为“true”且 “trustServerCertificate”属性设置为“false”,但驱动程序无法使用安全套接字层 (SSL) 加密与 SQL Server 建立安全连接

2023-11-28 00:19:21 15417 13

原创 Java和JDK版本号

作为一个Java新手小白,常常被Java中关于各种版本号弄得稀里糊涂,本文通过自身经验及网上资料总结了关键的部分。Java版本号及JDK版本号的对应关系。Java版本号类似于Java SE 1.8这种形式,例如对应的JDK可以理解为JDK 8。

2023-11-26 14:02:19 1513 1

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除