AI
文章平均质量分 81
龙井茶Sky
AI应用探索,期待AI改变生活改变未来
展开
-
langgraph之智能体工作流
随着大模型能力的不断提升,大模型应用已经逐步从提示词到RAG再到智能体Agent过渡。Agent属于大模型高阶应用,但是受限于模型能力(思考规划等),智能体的稳定性存在很大的考验。为了解决这个问题,一个方向是提高大模型能力,再一个方向是预先将智能体执行过程进行编排,即工作流。本文就是要介绍智能体工作流框架langgraph,如何通过langgraph实现一个不错的智能体应用。一、langgraph是什么?原创 2024-07-16 17:47:32 · 766 阅读 · 0 评论 -
jionlp之自然语言日期识别
随着大模型能力的不断增强,大模型可以干的事情越来越多,利用大模型可以进行语义理解、语义识别。但是大模型也有其局限性,比如不知道时间。当你问大模型时间的时候,他的幻觉就来了。本来接下来将探讨如何解决这个问题。一、jionlp是什么?Jionlp是一个Python库,主要用于处理中文自然语言处理(NLP)任务。它提供了一系列的工具和功能,旨在帮助开发者更方便地处理和分析中文文本数据。Jionlp中文分词:将中文文本分解为有意义的词语单元。词性标注:识别文本中每个词语的词性(如名词、动词等)。命名实体识别。原创 2024-07-16 16:25:05 · 515 阅读 · 0 评论 -
AI大事记(持续更新)
未来的某个时刻,可能那时候已经进入了更加AI的时代,再回首当时的某个时刻,会是一种什么心境呢?这个瞬间,就想把AI领域的一些大事记录一下。原创 2024-05-14 18:17:42 · 1042 阅读 · 0 评论 -
whisper之初步使用记录
随着AI大模型的不断发展,语音识别等周边内容也再次引发关注,通过语音转文字再与大模型交互,从而实现语音与大模型交互。今天我们介绍下语音识别领域的顶级选手whisper。一、whisper是什么?whisper是openai开源的语音识别模型,也是使用了Transformer架构。openai宣称whisper的语音识别能力已经到了人类的水平。接下来我们参考Github结合其他技术博客内容,实操下whisper的使用。本篇主要介绍了whisper的安装、调用、识别效果评估以及一点调用封装。原创 2024-05-10 12:04:01 · 1460 阅读 · 3 评论 -
langfuse使用零星记录
langfuse使用过程的一些坑点,做一些记录,便于日后回顾查找,也为同样在学习的小伙伴们异同一些可能的帮助。期望在学习使用一段时间之后,可以系统性的写一些更有价值的内容出来。一些说明:这里不是主要记录如何使用langfuse,主要是针对过程出现的问题记录,这样产生的作用与价值更大。一、langfuse是什么?LangFuse 是一个开源的大型语言模型(LLM)工程平台,主要用于帮助团队更快地构建生产级的 LLM 应用程序。原创 2024-04-28 16:08:45 · 815 阅读 · 0 评论 -
langchain使用零星记录
langchain使用过程的一些坑点,做一些记录,便于日后回顾查找,也为同样在学习的小伙伴们异同一些可能的帮助。期望在学习使用一段时间之后,可以系统性的写一些更有价值的内容出来。一、langchain是什么?langchain是一个AI开发框架,把各种AI功能调用进行封装,方便开发人员调用。他将不同大模型的调用封装起来,可以让开发人员更好的将精力放在业务功能上面。原创 2024-04-27 12:03:01 · 1246 阅读 · 0 评论 -
CV新手的一些细节点记录
很早之前就听闻计算机视觉,尔后又听闻机器学习,一个个高大上的大名,让人有种可望而不可及的感觉。某日入坑其中,其实和学习其他领域知识类似,都是从基础概念入手,开始看似简单,但是各种基础概念,可能还需要其他学科基础(如数学),也是让人一时难以深入其中。又某日,有些概念终于理清,故在此记录。一、CV是什么?CV即Computer Vision,计算机视觉。近几年很火的人脸识别、自动驾驶都需要用到CV,比较传统的应用还有图像分类、图像识别等等。原创 2024-04-24 18:20:53 · 418 阅读 · 3 评论 -
SK入门第一篇(设置baseurl)
之前在一些公众号就看到了关于SK的开发文章,然后说自己也试试看。然后就遇到一个关于如何设置baseurl的问题。啥意思呢?同样是SK,用python语言的话,OpenAI的baseurl是可以直接设置的,但是在C#下没法直接设置。然后,开始调试,找野路子…原创 2024-01-15 07:04:32 · 1903 阅读 · 0 评论 -
fastgpt、dify功能分析比较
现在都开始AI应用开发,何谓AI应用,起码要和AI大模型结合,应用表现形式多是对话类,当然也可以是后台调用openapi的生成式。最典型的AI应用即最早一批的chat类应用,封装个Prompt实现助手类chat。但是AI大模型能力再强,还是存在短板的。比如功能缺失,不能进行网页检索、不能直接查询天气、甚至不能进行代码运行。再比如,知识缺失,没有大模型训练截止日期之后的知识、没有私有知识。原创 2024-04-22 22:00:13 · 10557 阅读 · 0 评论 -
wsl下Linux使用chatglm.cpp记录
Linux之前用的少,多数还是在Windows下操作,导致对Linux很陌生,而且思维定势的,一有什么操作,还是习惯性在Windows下操作。在chatglm.cpp操作上也是如此,但是代码可不管你这些,该报错就报错。so可能还是尝试下Linux。而wsl下Linux就是一个比较方便使用Linux环境的方法,wsl很轻量化,避免了你还得再安装虚拟机软件,而且VMWare可能还和docker存在冲突。原创 2024-04-10 11:48:51 · 824 阅读 · 0 评论 -
opencv使用问题记录一二
opencv是一个计算机视觉处理软件库,拥有强大的功能和高效的性能。但是由于早期版本的原因,存在一些与目前主流使用不兼容的问题。原创 2024-04-02 11:41:23 · 508 阅读 · 0 评论 -
chatui工具使用记录与比较
cahtui相关工具可谓是层出不穷,方便了我们使用各个大模型。这里我把我知道的整理下列出来,顺便做一比较。原创 2024-03-28 18:17:23 · 1292 阅读 · 0 评论 -
Dify安装使用说明
dify可以说是一个功能不错的LLMOps,可以通过dify集中管理模型,可以通过界面创建AI应用,可以上传文档形成知识库,可以创建自定义工具(API),并可以对外提供API。相关功能类似Openai的GPTs或智谱的智能体,其他大厂的大模型也有类似功能,不过貌似只有dify是开源的。这就为个人本地部署AI应用提供了便利。原创 2024-03-28 17:14:51 · 8509 阅读 · 1 评论 -
本地部署大模型的几种工具(下-相关比较)
比较项目 chatglm.cpp vllm Ollama lmstudio 功能特点 通过C++优化性能,支持多平台运行 推理加速 简化易用、本地运行大模型 简化操作、本地运行大模型 操作系统要求 都可以,linux下运行更方便 都可以,linux下运行更方便 都可以,windows目前还是预览版 都可以 硬件要求 GPU、CPU均可 需要GPU CPU即可,GPU应该也可以 GPU、CPU均可原创 2024-03-26 11:04:10 · 984 阅读 · 0 评论 -
本地部署大模型的几种工具(上-相关使用)
vllm主要作用其实是可以提高推理性能,但是必须在linux下运行,而且必须有GPU官网地址vllm官网 Welcome to vLLM!— vLLMchatglm.cpp主要通过C++编译,实现性能的提升ollama主要简化了部署大模型的复杂度github地址:ollama/ollama:启动并运行 Llama 2、Mistral、Gemma 和其他大型语言模型。github上可以看ollama相关介绍,包括如何使用。原创 2024-03-26 10:35:49 · 3129 阅读 · 0 评论 -
本地部署大模型记录
ollama主要简化了部署大模型的复杂度github地址:ollama/ollama:启动并运行 Llama 2、Mistral、Gemma 和其他大型语言模型。github上可以看ollama相关介绍,包括如何使用vllm主要作用其实是可以提高推理性能,但是必须在linux下运行,而且必须有GPU官网地址vllm官网 Welcome to vLLM!— vLLM。原创 2024-03-18 21:05:21 · 1507 阅读 · 0 评论 -
大模型工具集使用记录
大模型应用相关涉及了一系列上下游过程,如算力GPU、模型训练、微调、大模型应用开发等。相关工具使用过程,有一些点就逐步记录下来,以备后续回看。原创 2024-03-05 10:16:04 · 415 阅读 · 0 评论 -
One API初体验
One API在我看来,可能更基础、部署更简单一些,于是打算先搞个One API部署来看看。One API是开源的,github介绍第一句就是“通过标准的 OpenAI API 格式访问所有的大模型,开箱即用。原创 2024-02-19 17:44:41 · 3064 阅读 · 0 评论