weixin_43999691的博客

Tools/Deployment，不要🙅☑️，这样cmakelist至少可以编译过去，如果要同步的环境的话。点击Tools/Resync with Remote Hosts。

基本概念教师模型：一个已经训练好的、性能优异的大模型。学生模型：一个较小、较简单的模型，目标是学习教师模型的行为和知识。软标签（Soft Labels）：教师模型输出的概率分布，而不是简单的类别标签，这些概率分布包含了教师模型关于输入数据的丰富信息。训练过程训练教师模型直到它达到较高的准确率。使用教师模型的输出（软标签）来训练学生模型。学生模型同时学习硬标签（实际类别标签）和软标签，以此来模拟教师模型的行为。

本文旨在帮助开发者快速在RK3588平台上部署和使用编译好的OpenCV 4.11。通过本文，您将了解如何在RK3588芯片上高效集成OpenCV库，充分发挥其强大的图像处理能力，为您的项目提供高效、稳定的视觉识别解决方案。无论您是从事机器视觉、智能监控还是人工智能领域的研究与开发，本文都将为您提供实用的操作步骤和优化建议，助您轻松应对各类视觉处理任务。

🧬Fine-tuning Guide 微调指南了解微调的所有基础知识和最佳实践。适合初学者。

Unsloth是一个开源项目，主要致力于提高大型语言模型（LLMs）的微调效率。该项目由Daniel Han和Michael Han领导的团队开发，旨在为开发者提供一个高效且低内存占用的微调解决方案。：Unsloth通过优化内核和手动反向传播引擎，实现了微调训练速度的2倍提升。同时，与传统微调方法相比，内存使用减少了70%至80%，使得在相同硬件资源下可以处理更大的数据集和更复杂的模型。

YOLOv12和YOLOv11都是YOLO（You Only Look Once）系列中的实时目标检测模型，但它们在设计和性能上有所不同。总的来说，YOLOv12在继承YOLO系列优势的基础上，通过引入注意力机制和优化网络架构，实现了更高的检测精度和更快的推理速度。

最近deepseek非常火爆，从使用者的角度看（1）开源的模型：deepseek开源了13个模型（毕竟openai的模型不开放）（2）资源暂用较少（毕竟不是每个人家里都用用不完的GPU）：使用ollama在mac上部署了一下，不能说非常简单吧，只能说傻瓜式的教程。

使用了之前用于眼底分割的模型，刚好查到有牙齿分割的数据，修改一下是不是可以自己也做一个牙齿分割的模型，这里主要使用的是，自己还添加了resnet34作为backbone的模型文件，数据集和代码在后文章中辉添加出来，关于unet的相关的知识点可以参考链接中的github地址，有相关视频和博文，我也是借鉴然后自己发挥一下。

为了实现低延时，所以开始看看C版本的rknn的使用，确实有不足的地方，请指正（代码借鉴了rk官方的仓库文件）。

ncnn 是一个高性能的神经网络前向计算框架，专门针对移动设备和嵌入式设备设计。它由腾讯优图实验室开发，旨在提供高效的神经网络推理能力，特别是在资源受限的环境中，如智能手机和嵌入式系统。ncnn 被广泛应用于移动端和嵌入式设备上的各种深度学习应用，包括但不限于：图像分类/目标检测/语义分割/人脸识别/图像生成与处理。

NVIDIA TensorRT进行模型推理的Python实现。TensorRT是一个高性能的深度学习推理优化器和运行时，它能够为深度学习模型提供低延迟和高吞吐量的推理能力。(由于官方文档的使用还是比较简单，也可能自己很菜，参考了别人的文档和自己摸索，写出来这个可以使用的API)

在PyTorch中，Dataset和DataLoader是两个重要的工具，用于构建输入数据的管道。（1）Dataset是一个抽象类，表示数据集，需要实现__len__和方法。是一个可迭代的数据加载器，它封装了数据集的加载、批处理、打乱和并行加载等功能。

图像预处理时，通常使用transforms.Normalize(mean, std)对图像按通道进行标准化，即减去均值，再除以方差。这样做可以加快模型的收敛速度。其中参数mean和std分别表示图像每个通道的均值和方差序列。

之前就想着使用rknn的c版本的api做推理看看，找了一个简单的，那就unet吧，本来想着用rk的demo文件，但是里面是mobilenet，相关的函数没有，卡这也卡了好久，突然发现tengine相关的后处理，拿来用用，终于调试好了！！！(环境自己配置)

具体细节也不想写，无脑用就行。

参加开发者大会，逛了相应的workshop，对超级编码技术很感兴趣，RＫ做了很多事情，挺好的！

香橙派推广旗下AI PRO 开发板，在B站做直播，一场直播两个直播间，分别抽取一名观众，宣传是场场送AI PRO开发板！！！

RKNN（Rockchip Neural Network）是一种用于嵌入式设备的深度学习推理框架，提供了一个端到端的解决方案，用于将训练好的深度学习模型转换为在嵌入式设备上运行的可执行文件。RKNN在Rockchip NPU（神经网络处理器）平台上运行，提供了模型转换、推理和性能评估的开发套件。RKNN-Toolkit2是一个开发套件，它为用户提供了在PC和Rockchip NPU平台上进行模型转换、推理和性能评估的Python接口。