- 博客(16)
- 收藏
- 关注
原创 第七节“OpenCompass :是骡子是马,拉出来溜溜”笔记
研究评测对于我们全面了解大型语言模型的优势和限制至关重要研究评测有助于指导和改进人类与大型语言模型之间的协同交互研究评测可以帮助我们更好地规划大型语言模型未来的发展,并预防未知和潜在的风险了解不同语言模型之间的性能、舒适性和安全性,能够帮助人们更好地选择适合的模型,这对于研究人员和产品开发者而言同样具有重要意义大模型开源开放评测体系 “司南” (OpenCompass2.0),用于为大语言模型、多模态模型等提供一站式评测服务。开源可复现:提供公平、公开、可复现的大模型评测方案。
2024-04-16 21:34:32
990
1
原创 第七节“OpenCompass :是骡子是马,拉出来溜溜”作业
使用 OpenCompass 评测 internlm2-chat-1_8b 模型在 C-Eval 数据集上的性能。
2024-04-16 21:33:58
194
1
原创 第六节“Lagent & AgentLego 智能体应用搭建”笔记
Lagent 是一个轻量级开源智能体框架,旨在让用户可以。同时它也提供了一些典型工具以增强大语言模型的能力。
2024-04-16 17:33:49
380
1
原创 第六节“Lagent & AgentLego 智能体应用搭建”作业
作业LMDeploy 部署 api_server启动并使用Web Demo调用接口存在问题以目标检测工具为例权重下载与推理推理结果启动WebUI配置agent配置工具
2024-04-16 17:33:02
296
1
原创 第四节“XTuner 微调 LLM”笔记
XTuner 一个大语言模型&多模态模型微调工具箱。由 MMRazor 和 MMDeploy 联合开发。🤓 傻瓜化: 以 配置文件 的形式封装了大部分微调场景,0基础的非专业人员也能一键开始微调。🍃 轻量级: 对于 7B 参数量的LLM,微调所需的最小显存仅为 8GB : 消费级显卡✅,colab✅XTuner 的运行原理:
2024-04-16 11:22:14
954
1
原创 第三节““茴香豆“:搭建你的 RAG 智能助理”作业
茴香豆助手是一个基于RAG技术的智能问答助手,它具有很好的灵活性、扩展性和准确性,可以广泛用于技术问答、智能客服等场景。首先,它基于RAG技术,能够结合外部知识库,生成更准确、丰富的回答。其次,它能够实现非参数知识更新,无需重新训练即可掌握新领域的知识,具有很好的灵活性和扩展性。再次,它利用向量数据库存储知识,提高了问答的效率和准确性。此外,它还可以判断问题的相关性,避免回答与主题无关的问题,实现精准问答。
2024-04-14 14:19:53
340
1
原创 第三节““茴香豆“:搭建你的 RAG 智能助理”笔记
茴香豆智能体——通过检索与用户输入相关的信息片段,并结合来生成更准确、更丰富的回答。解决 LLMs 在处理知识密集型任务时可能遇到的挑战, 如幻觉、知识过时和缺乏透明、可追溯的推理过程等。提供更准确的回答、降低推理成本、实现外部记忆。
2024-04-10 15:51:48
429
原创 第一节“书生·浦语大模型全链路开源体系”笔记
书生·浦语大模型全链路开源体系在数据-预训练-微调-部署-评测-应用多个维度上,为大模型的开发提供了支持,帮助开发者更方便地进行系统开发与应用部署。
2024-04-03 12:37:38
545
1
转载 Ubuntu 20/22 安装Wine 8.0
参考:https://ubuntuhandbook.org/index.php/2023/01/wine-8-0-stable-install-ubuntu/#google_vignetteWine官网:https://www.winehq.org/尝试直接下载 wine-8.0.2.tar.xz 本地编译运行后,终端无法调用wine命令。
2024-01-04 16:55:29
482
1
原创 Jetson nano(Ubuntu18.04) 网线连接电脑,实现VNC远程桌面
本文通过网线连接jetson nano 与windows电脑,实现了网络共享及VNC远程桌面访问配置Jetson nano (此过程需要连接屏幕及外设)以下内容来自系统自带文档 “README-vnc.txt”安装VNCsudo apt updatesudo apt install vino开启VNC服务实现开机自动启动mkdir -p ~/.config/autostartcp /usr/share/applications/vino-server.desktop ~/.con
2022-03-28 16:38:03
4871
3
原创 ubuntu16.04.7双系统安装 2021年 显卡驱动 网卡驱动
楼主电脑是小新pro13 2019intel 显卡是mx250由于笔记本的网卡是ax201,自带包里不支持,无法连无线网,由此导致了无法完成显卡驱动的安装,进入系统就是这个界面
2021-04-04 21:08:09
456
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人