大语言模型
文章平均质量分 71
临风而眠
这个作者很懒,什么都没留下…
展开
-
[毕设记录]@开源项目学习:prompttools
用于快速测试和实验的开源工具,支持LLMs(例如 OpenAI、LLaMA)和矢量数据库(例如 Chroma、Weaviate、LanceDB)。看到这个还能测试chroma等向量数据库,比较感兴趣。毕设也想对比一些东西的效果,先mark在这,回头再看。,好像是他们免费提供gpt3.5的api。原创 2024-03-31 22:19:07 · 203 阅读 · 0 评论 -
[论文泛读]Why Johnny Can’t Prompt: How Non-AI Experts Try (and Fail) to Design LLM Prompts
研究核心:本文研究了非AI专家在利用预训练的大型语言模型(如GPT-3)进行自然语言交互设计时遭遇的难题。关键发现:尽管LLM模型能够原生支持流畅的多轮对话,但非专家在设计能够引导模型输出的有效提示(prompts)方面面临挑战,且这种基于提示的交互方式较为脆弱。原创 2024-03-31 20:28:39 · 858 阅读 · 0 评论 -
[论文泛读]PromptChainer: Chaining Large Language Model Prompts through Visual Programming
一种名为PromptChainer的工具通过视觉编程方法来链接大型语言模型(LLM)的提示。尽管LLM能够快速原型化(prototype)新的机器学习功能,但对于许多现实世界的复杂任务,单次LLM运行难以处理。最近的研究发现,通过将多个LLM运行串联起来(每一步的输出作为下一步的输入),可以帮助用户完成这些更复杂的任务,并且这种方式更为透明和可控。然而,目前尚不清楚用户在编写(authoring)自己的LLM链时需要什么,这是降低非AI专家原型化AI集成应用障碍的关键一步。原创 2024-03-31 16:22:39 · 705 阅读 · 0 评论 -
[毕设记录]@开源项目学习: streamlit-multimodal-RAG
按照readme的docker步骤启动了项目,但是不知道为啥没法build DB。对了,记得把hf的user access token放到my_keys.py。先记录个问题,之后再回头补。原创 2024-03-19 10:00:43 · 126 阅读 · 0 评论 -
书生·蒲语大模型学习 第2课
后面突然发现这个实验需要两张卡…重开一个开发机(也可以升降配置)记得要在电脑本地终端运行这个指令。(设置密钥的步骤跟着教程走就行)下面这个多模态对话的逻辑有点牵强。运行的时候遇到了端口占用的问题。还有记得开端口,不然会显示。然后就可以正常调用对话了。点击编辑之后会有这个效果。原创 2024-02-23 19:07:46 · 378 阅读 · 0 评论 -
chatgpt在物联网方面的应用(资料搜集)
物联网这门课要设计一个物联网系统,我想设计一个能用上chatgpt的每一次在做这种资料搜集的时候,都会搜着搜着就打开了几十个网页标签… 效率很低;后来尝试用notion等工具改善,但是只是换了个地方存了几十个网页,所以来尝试下边搜集边思考,至少对资料做点基本的分类和评注(此时看了看我的浏览器标签栏,密密麻麻…又不知道多少个了)原创 2023-11-08 23:37:45 · 138 阅读 · 0 评论 -
[资源推荐]看到一篇关于agent的好文章
那我文字能不能逆prompt🤔😂,看到一些比较好的回答,然后反向挖掘它的prompt🤔。之前有过类似的想法!之后去看看这篇文章!有意思,之前没想过这些。原创 2023-10-23 21:50:07 · 170 阅读 · 0 评论 -
langchain callback学习
在 LangChain 的 API 中,几乎所有的对象(例如 Chains、Models、Tools、Agents 等)都支持回调参数。发现自己之前用langchain都是纯纯只是跑通,要能灵活使用还是得深入研究一下框架的,还有仔细看文档的…类,这是一个基本的回调处理程序,它提供了处理来自 LangChain 的回调的功能。这是一个非常有用的工具,特别是在调试过程中,因为它会将所有事件记录到控制台。:这些是在对象创建时定义的,并且对于该对象上的所有调用都是通用的。此外,API 的大多数对象都支持。原创 2023-10-15 22:59:56 · 622 阅读 · 0 评论 -
LangChain-Decorators 包学习
最下面这个react的多智能体例子很好玩,来看看!来colab玩玩它的demo。这个包确实能带来不少方便~感觉这确实是个挺好用的库。原创 2023-10-15 16:47:23 · 106 阅读 · 0 评论 -
异步使用langchain
整合一下博主的代码,对两个速度进行比较,但是这个调用限制真的很搞人啊啊啊。还不如直接谷歌搜😂 一下搜到, 上面那个AI文档问答没给出这个链接。免费用户一分钟只能3次,实在是有点难蚌。我让copilot修改一下,能跑了。直接获取当前脚本路径了。原创 2023-10-15 16:12:29 · 275 阅读 · 0 评论 -
[资源推荐]langchain、LLM相关
上面这个非常非常全面,下面我挑出来的一些我感兴趣的就是上面这个列表里面推荐的。看到这个突然想起来,codespace这么好的资源,之前没有好好利用诶…在cli.py里面看到了一个有趣的python库click。看了下代码里面有缓存层。原创 2023-10-15 13:30:32 · 104 阅读 · 0 评论 -
chromadb 0.4.0 后的改动
一方面是分批的那个函数另一个应该是之前没有创建数据库的原因from_documents函数更新了所以我们也得加上还需要注意privateGPT.py也更新了。原创 2023-10-09 15:01:49 · 422 阅读 · 0 评论 -
AutoDL百川大模型体验
上次写的那个autodl初体验那个是租的西北A区的卡,那个可以有一个公网IP这次租的是北京的卡,只能ssh,然后本地访问如何查看端口情况ss -tuln或。原创 2023-10-09 08:44:09 · 333 阅读 · 3 评论