LJ旗飞飞的博客

原创 书生·浦语作业合集

人工智能领域中参数数量巨大、拥有庞大计算能力和参数模型的模型。大模型通常指的是机器学习或人工智能领域中参数数量巨大、拥有庞大计算能力和参数规模的模型。这些模型利用大量数据进行训练，并且拥有数十亿甚至数千亿个参数。大模型的出现和发展得益于增长的数据量、计算能力的提升以及算法优化等因素。这些模型在各种任务中展现出惊人的性能，比如自然语言处理、计算机视觉、语音识别等。

原创 第6节笔记

介绍大模型评测的基本知识，OpenCompass工具介绍，并实现一个评测的demo提示：以下是本篇文章正文内容，下面案例可供参考主要介绍了模型评测的基础知识，opencompass工具的使用方法，随后实现了internlm7b模型在C-Eval数据集下的效果。

原创 第五课笔记

本文介绍大模型部署的背景知识，并介绍LMDeploy工具，并实现一个部署demoLLM在英伟达设备上的部署方案，包含模型轻量化、推理和服务推理性能：静态（固定batch和输出输入的token数目）：小batch下性能是fp16的两倍，batch越大加速效果越不明显动态（输入输出不定长）：精度优于vLLM框架本文主要介绍了模型量化和LMDeploy的基本应用，并实现了几个部署的demo

原创 第二次笔记

什么是大模型？大模型通常指的是机器学习或人工智能领域中参数数量巨大、拥有庞大计算能力和参数规模的模型。这些模型利用大量数据进行训练，并且拥有数十亿甚至数千亿个参数。大模型的出现和发展得益于增长的数据量、计算能力的提升以及算法优化等因素。这些模型在各种任务中展现出惊人的性能，比如自然语言处理、计算机视觉、语音识别等。这种模型通常采用深度神经网络结构，如 Transformer、BERT、GPT（ Generative Pre-trained Transformer ）等。

原创 第四次笔记Xtuner

原创 基于 InternLM 的 知识库

LangChain 框架是一个开源工具，通过为各种 LLM 提供通用接口来简化应用程序的开发流程，帮助开发者自由构建 LLM应用。LangChain 的核心组成模块如下：链(Chains) :将组件组合实现端到端应用,通过一个对象封装实现一系列LLM 操作Eg. 检索问答链，覆盖实现了 RAG （检索增强生成)的全部流程。也是此次课程中实践用到的。

原创 书生·浦语大模型全链路开源体系

1.首先从开源社区根据不同开源模型在各个维度上的能力选择中意的大模型2.根据应用场景来判断是否需要对大模型进行参数微调，例如，仅仅是通用的简单对话任务则可以直接使用（至步骤5），如果应用场景比较复杂则需要对模型进行微调。3.微调：如果算力足够则可以进行续训或全参微调，如果算力有限则可以固定一部分参数，只对部分参数修改进行部分参数微调(例如：LoRA算法)

原创 checkpoint是什么意思？

请记住，架构指的是模型的框架，而检查点则是特定架构的权重。例如，BERT 是一种架构，而 bert-base-uncased 则是一个检查点。模型是一个通用术语，既可以指架构，也可以指检查点。

原创 Jupyter执行!乱码 CMD命令行

chcp 65001。

原创 怎么去找开源项目

• 找空项目架子 xxx starter / xxx boilerplate。• 找百科大全 awesome xxx。• 找教程 xxx tutorial。特殊的查找资源小技巧-常用前缀后缀。• 找例子 xxx sample。找开源项目的一些途径。

原创 安装Microsoft Windows Store应用商店

下载链接https://gitee.com/ljqiff/hamal/tree/master/MicrosoftWindowsStore。出现AppUp.IntelGraphicsExperience的错误 直接禁用这个 然后重启一下再重复之前步骤。参考文章 https://zhuanlan.zhihu.com/p/491624008。把这几个都下载下来放到单独的文件夹。PowerShell到该文件执行。

原创 vacode 连接到 kernel: base (Python 3.10.9): 正在激活 Python 环境 “base“

然后去vscode卸载python，jupyter 然后关闭vscode。powershell管理员模式切换到base虚拟环境 执行以下命令。去anaconda安装pyzmq和jupyter-client。打开vscode就正常了。

原创 模式识别和机器学习答案 PRML_Solution_Manual

https://gitee.com/ljqiff/hamal/blob/master/PRML_Solution_Manual.pdf

原创 2023 解决uiautomatorviewer 闪退

java官网

原创 Android 的 SDK Manager 无法启动 闪退解决方法

事发：卸载了SDK 重新安装闪退。没卸载干净，用360清一下注册表。

原创 彻底卸载Anaconda 没有Prompt情况下

点击安装目录下的Uninstall-Anaconda3.exe。事发 安装完Anaconda，启动死机导致安装失败。删除用户目录下的文件 和 开始菜单的文件。卸载完了在用360清一下注册表。

原创 【STM32开发小技巧】CUBEMX改变工程模板(FreeMarker一键生成定制文件)

CubeMx用FreeMarker快速生成自定义.c文件

原创 CubeMX生成不了工程 出错

1.卸载老版本jre jdk安装新版本https://www.java.com/zh-CN/download/2.安装最新Cubemxhttps://www.stmicroelectronics.com.cn/zh/development-tools/stm32cubemx.html3.cubemx其他默认 输入工程名字和路径 勾选MDK—ARM5.5.generate然后open6.oK了交流群211750510......

原创 Inav Configurator给F4刷固件进入不了DFU

问题：使用Zadig给F4转化驱动不成功解决：使用另外一个软件修复一下链接 需要科x上网 （文章末 发在群文件了）https://impulserc.com/pages/downloads1.下载2.关闭360等杀毒3.打开软件自动修复 看到下面这样修复完成4.重启5.拔出usb 按住DFU按键 插上USB就能看到了交流群211750510......