我码玄黄的博客

`Dify`是一款开源的大语言模型`（LLM）`应用开发平台，它帮助开发者和非技术人员，快速构建生产级别的生成式AI应用。

FastDeploy是一款易用、高效的AI模型部署工具。它旨在简化AI模型从训练到部署的整个流程，支持在多种硬件和操作系统上进行模型推理。多平台支持FastDeploy支持在云、边、端等多种环境中部署模型，包括但不限于WindowsLinuxAndroidiOS等操作系统。多硬件兼容： 支持多种硬件平台，如Intel CPUNVIDIA GPUJetsonARM CPU等。多算法支持： 支持多种主流算法模型，包括图像分类、目标检测、图像分割、人脸检测、人体关键点检测、文本识别等。低门槛使用。

`Dify` 可以说就是界面化的 `LangChain`，从构建到发布一个聊天程序，完全脱离了编码，并且灵活的使用了各种 `api` 和工具。

GraphRAG是微软推出的结构化检索增强生成方法，通过知识图谱和社区层次结构提高模型推理问答性能。

DeepSeek-V2综合能力强大，与顶级闭源模型比肩，性能高效，训练资源需求低。API定价极具竞争力。

是一个用于微调大型语言模型的强大工具，特别是针对LLaMA系列模型。可以适应不同的模型架构和大小。支持多种微调技术，如全参数微调、LoRA）、QLoRA）等。还给我们提供了简单实用的命令行接口。支持多cpu训练，多任务微调，还有各种内存优化技术，如梯度检查点、梯度累积等。支持混合精度训练，提高训练效率。本文不再赘述的安装过程在的webui里面，一切微调都是可视化，方便我们入手。我们可以不用了解每个参数背后的具体实现手段，但一定要知道每个参数的含义，大模型的微调不是一蹴而就，而是不断更新和优化。

上篇文章有很多小伙伴再问：开启了流式。这篇文章就来给大家解惑。

本文介绍了如何使用PHP调用"通义千问"的API，包括使用curl发送HTTP请求、编写API调用程序以及进行基本的错误处理。

HuggingFists是一款低代码AI应用工具，脱胎于数据科学平台Sengee，其继承了传统数据科学工具以低代码方式搭建数据处理与数据分析流程的能力，并将此能力外延到了非结构化数据