【运维】磁盘满了怎么办?如何快速找到占用空间的文件和腾出空间 机器用久了,很容易生成很多临时或者无用的文件,占用大量空间造成磁盘不够用。尤其是服务器,当磁盘不够用时,系统会出现莫名其妙的问题,数据库可能会造成数据损坏。此时快速定位可以删除的大文件并及时释放空间,是非常重要的。
【AI提升】如何使用大模型:本机离线和FastAPI服务调用 大模型本身提供的功能,类似于windows中的一个exe小工具,我们可以本级离线调用然后完成具体的功能,但是别的机器需要访问这个exe是不可行的。常见的做法就是用一个web容器封装起来,提供一个http接口,然后在后端调用这个exe来实现需求。同理我们需要一个web容器把大模型封装起来,然后通过API来提供AI服务。这里通过FastAPI来实现AI的API服务化。
【AI提升】AI利器Tool Call/Function Call(二):OpenAI/qwen-agent/LangChain/Ollama 在目前AI的世界里,各大模型都还是跟着OpenAI在跑,API也尽量跟OpenAI保持一致。所以这里大致会有三个场景:OpenAI,其余模型自身的封装-这里选择qwen-agent,以及通用封装框架-这里选择LangChain和Ollama。这里通过 Tool Call/Function Call 这个概念来比较在上面三种场景中的使用区别。
【AI提升】AI利器Tool Call/Function Call(一):langchain+ollama+llama3/qwen2 使用AI的一个常用场景就是,接收人类的语言,识别人类的意图,最终进行相关的业务处理,这就是设计Tool Call / Function Call的初衷。现在一般都说Tool Call,以前常叫Function Call,不要纠结。
【AI基础】租用云GPU之autoDL部署大模型ollama+llama3 在这个显卡昂贵的年代,很多想要尝试一下AI的人可能都止步于第一步。这个时候我们可以租用在线的GPU资源来使用AI。autoDL就是这样的一个云平台。