- 博客(19)
- 收藏
- 关注
RSS订阅原创 OpenCompass 大模型评测实战
partitioners对数据、模型进行切片划分成单个任务tasks,每个task在runners进行执行，具体执行的逻辑体现在openicl，最后在summarlzers进行总结评分。客观评测：针对具有标准答案的客观问题，通过使用定量指标比较模型的输出与标准答案的差异，并根据结果衡量模型的性能。主观评测（人类评价价/模型评测）：借助受试者的主观判断对具有对话能力的大语言模型进行能力评测。
2024-04-22 23:18:25
198
原创 Lagent & AgentLego 智能体应用搭建
要先把internlm2_weather_web_demo.py复制到自己的agent路径下.在运行。
2024-04-20 19:15:35
426
原创 XTuner 微调 LLM：1.8B、多模态、Agent
这类似于之前提到的lora微调方案，两者都是在已有的大语言模型基础上，用新数据训练出一个新的小型模型。而Finetune阶段则是在显卡中使用高质量图像加复杂对话文本的数据对模型进行进一步训练，类似于指令微调，最终得到具有视觉识别能力的模型。增量预训练的使用场景是在已有基础模型上，增加新的领域知识训练数据，如文章、书籍或代码等，无需问答对标注。训练阶段，利用文本问答数据和图像向量作为输入，输出文本回答，从而训练出一个能够处理图像的模型（image projector）。需要先进入仓库，才能标记大文件。
2024-04-20 15:55:46
699
原创 LMDeploy 量化部署 LLM-VLM 实践
LMDeploy 由MMDeploy和MMRazor团队联合开发,是涵盖了 LLM任务的全套轻量化、部署和服务解决方案。核心功能包括高效推理、可靠量化、便捷服务和有状态推理。· 高效的推理:LMDeploy开发了Continuous Batch,Blocked K/V Cache,动态拆分和融合,张量并行,高效的计算kernel等重要特性。InternLM2推理性能是vLLM的1.8倍。· 可靠的量化:LMDeploy支持权重量化和k/v量化。4bit模型推理效率是FP16下的2.4倍。
2024-04-16 23:23:05
760
原创 茴香豆：搭建你的 RAG 智能助理
检索增强生成（Retrieval-Augmented Generation, RAG）是一种旨在通过在推理过程中使语言模型能够访问和利用外部知识源来提升其能力的方法。微调(fine-tuning)通过对特定领域数据集进行广泛的训练来调整整个模型。RAG 索引+检索+生成向量数据库：文本化向量、相似度检索NavieRag基础的三个步骤AdvancedRag在用户问句进行路由扩展、检索到的信息进行重排序等。ModularRag:模块化Rag基础功能和各种优化。
2024-04-14 00:54:05
421
原创 轻松玩转书生·浦语大模型趣味 Demo
tokenizer：使用AutoTokenizer.from_pretrained方法加载internlm2-chat-1_8b的标记器。model：使用AutoModelForCausalLM.from_pretrained方法加载internlm2-chat-1_8b。messages：这是一个列表，包含用户输入和机器人响应的元组。已经远超300字，模型本身可能训练了太多书生浦语的知识，固定化输出指定文字，不具备变通性。model_name_or_path：指定预训练模型的路径或名称。
2024-04-06 15:36:24
252
1
原创 apoc使用报错
会报错，应该另建一个apoc.conf，写入以上代码。很多文章都是写入neo4j.conf，这在neo4j-desktop好像并不适用。在neo4j-desktop中neo4j.conf写入。这些错误都大概率是neo4j.conf配置出错了。
2024-01-31 15:23:01
397
原创 删除需要管理员权限的文件
del/f/s/q 盘符:\文件名 （强制删除文件，文件名必须加文件后缀名）rd/s/q 盘符:\某个文件夹 （强制删除文件文件夹和文件夹内所有文件）
2024-01-31 10:26:43
391
原创 pg库读写问题
psycopg2.errors.UndefinedColumn: 错误: 关系 “coments_2016-04” 的 “Videoname” 字段不存在。pg库对大小写不太敏感，在将dataframe列名转为小写后就可以了。注意创建表格时也要注意大小写。
2024-01-19 14:57:57
335
原创 pg库无法读取本地csv，无权限/没有文件
本地csv拒绝pg库的访问，原因好像是pg库不能访问系统盘c盘文件。将csv放至本地其他盘就可以了。报错： Permission denied SQL 状态: 42501。
2024-01-15 14:36:31
383
原创 【无标题】
领取长达 10 小时的随机免费算力礼包，算力有效期为 1 个月，人人有份，无任何套路，抽到什么就送什么！RTX_4090 10 小时（已领取）OpenBayes 空投好礼。
2023-12-09 21:27:03
24
原创 【ERROR: Could not install packages due to an OSError: HTTPSConnectionPool
把代理全关了，就可以了。
2023-05-09 10:30:45
170
原创 pycharm运行jupyter，显示Failed to create a web socket
出现这种原因可能是端口被其它应用占用了。默认端口8888，在cmd命令行中输入以下命令：jupyter notebook --ip=localhost，将地址和token复制到pycharm即可。如果这个方法不行，您可以尝试在命令行中输入以下命令：jupyter notebook --NotebookApp.allow_origin=‘*’ --port=8889。
2023-04-20 20:36:21
600
原创 edge扩展下载失败或edge报错0x80072ee7
最初是扩展下载失败，显示downlaod interpret.尝试了网上更改host文件，均失败。就卸载了edge。然而，安装时显示0x80072ee7，百度之后就，将DNS服务器改为固定4.2.2.2，恢复了正常的下载，扩展功能也正常了。Win 10升级出现0x80072ee7错误解决办法
2022-09-25 09:49:49
6561
2
原创 2021-06-03
含Carsim的s函数的Sumlink模块无法将数据发送到MATLAB主界面工作区。具体原因不详，找到了间接处理方法，比较麻烦。在Simulink中找到View>Explore>base work，将数据以mat格式导出，然后在主界面导入。...
2021-06-03 00:09:35
67
原创 2021-05-26
Carsim与Sumlink仿真中出现MATLAB命令窗口出现：“Model ‘Solver_SF’ was last saved using Simulink 5.1. Models last saved in releases before Simulink 6.0 (R14) may not function correctly in the currentrelease. Save the models in an intermediate release (R2019b or older)
2021-05-26 16:21:37
230
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人