大模型AI
大模型算法、AI、GPT、LORA、agent等技术
loong_XL
这个作者很懒,什么都没留下…
展开
-
让大模型prompt生成Mermaid流程图
mermaid 美人鱼, 是一个类似 markdown,用文本语法来描述文档图形(流程图、 时序图、甘特图)的工具,您可以在文档中嵌入一段 mermaid 文本来生成 SVG 形式的图形。原创 2024-04-30 15:10:23 · 40 阅读 · 0 评论 -
国内外免费在线大模型LLM使用网站推荐
参考:https://zhuanlan.zhihu.com/p/638149613。原创 2024-04-26 09:10:41 · 291 阅读 · 0 评论 -
AI实时在线图片工具2:人物风格化、风格参考生成、模特换衣服
参考左侧风格图片,生成一直相似风格的猫。原创 2024-04-25 10:49:03 · 149 阅读 · 0 评论 -
ragflow 大模型RAG知识库使用案例
支持丰富的文件类型,包括 Word 文档、PPT、excel 表格、txt 文件、图片、PDF、影印件、复印件、结构化数据, 网页等。注意:Docker >= 24.0.0 & Docker Compose >= v2.26.1。5、ip+端口(我这里8082)进入前端页面,需要注册账号才能进入,随便注册即可。1、如果启动时候端口冲突,可以自己进入yml进行修改端口。3、运行docker compose。这里也可以提前默认设置好相关模型。7、聊天(选择知识库与模型)6、进入后可以设置添加模型。原创 2024-04-18 15:03:38 · 605 阅读 · 0 评论 -
LLM-TTS 大模型对话语音实时回复
1)推理用的vllm,参考https://blog.csdn.net/weixin_42357472/article/details/136165481。3)tts生成 edge_tts包,微软的需要联网。2)用的openai api LLM对话接口。4)电脑播放语音 playsound包。原创 2024-02-26 17:40:30 · 488 阅读 · 0 评论 -
qwen1.5 chat vllm推理使用案例;openai api接口使用
参考:https://github.com/QwenLM/Qwen1.5下载:https://huggingface.co/collections/Qwen/qwen15-65c0a2f577b1ecb76d786524。原创 2024-02-19 11:01:03 · 1170 阅读 · 0 评论 -
diffusers加速文生图速度;stable-diffusion、PixArt-α模型
参考:大概GPU资源8G-16G;另外模型资源下载慢可以在国内镜像:https://aifasthub.com/原创 2024-01-06 10:21:27 · 1427 阅读 · 0 评论 -
chatglm3 vllm部署推理;api访问使用
用fastchat部署暂时有各种问题,参考:https://github.com/lm-sys/FastChat/pull/2622这里用vllm运行测试可以使用。原创 2023-11-28 10:05:13 · 1529 阅读 · 0 评论