全民上手大模型--ollama+langchain+通义千问零费用java+python跑通本机大模型

前言

写本篇文章是因为我经历过了各种付费+测试之后很艰难想入手大模型，国内的同学学技术还是太困难了，但是看到市面上各种火爆，实在有按捺不住想体验,终于迎来了一个契机。

在此之前，应该大家都了解OpenAPI，确实强大，但是国内用户来说，有以下问题：
一、网络不通，这里还不是简单的翻墙的问题，是他的网站都不对中国大陆开放，政治因素就不谈了
二、贵这玩意其实是按调用次数收费的，厉害点的功能其实都要收费，还是美元
三、其实中文方面还是没有那么强了
基于这些因素，导致大模型的事情总是少数人在玩，没意思，今天我们要把价格打到零！！

契机

开源大模型运行平台

Ollama，这是是一个开源的大语言模型平台，它允许用户在本地环境中运行、创建和共享大型语言模型。Ollama提供了丰富的功能和特性，使得用户可以在自己的计算机上轻松地部署和运行大型语言模型。注意啦，是自己的机器就可以哦！
上链接 https://ollama.com/

中文大模型

阿里巴巴的通义千问，开源国产的，听得懂中文
上链接 https://github.com/QwenLM

用户友好API接口

langchain其实是一套规范化的API，实现了标准化对模型的集成、接入、组件化等工作，通过langchain用户可以很轻松打造属于自己的大模型产品。langchain很早就出来了，大模型出来的时候，因为对使用大模型的定制做了封装，也是一下子火爆起来了。
上链接 https://github.com/langchain-ai/langchain

到此为止，其实万事俱备，我们就是要通过ollama+langchain+通义千问搞一把自己的大模型。

安装ollama

下载并安装

现在官网其实没有那么多乱七八糟的，直接一进去就是一个下载按钮，点就是了

点进去下载安装包，即可mac,linux,windows都行
我的是苹果系统，上面提到说要升级macOS 11,我的是10.15.7没影响，可以运行。下载之后就是安装了，没啥门槛。

下载模型

进入终端

ollama run + 模型名

模型在官网上直接罗列了一批，每个模型都要点硬盘，大家按照自己的需求下载，没有列出来的，可以在模型仓库里面找
https://ollama.com/library

我们这次是要下载通义千问，可以去仓库里面搜索到

ollama run qwen

这个命令其实是运行对应模型的意思。在运行之前，如果本机没有下载的话会去仓库上下载模型，需要等等。

使用模型-调戏大模型

下载之后会帮我们运行起来，是一个命令行模式的交互式接口,我们就可以开始调戏我们的大模型啦。大概就是下面这样，

B:~ zhuxuemin$ ollama run qwen
>>> 你是谁呀
我是通义千问，是由阿里云开发的语言模型。我被设计成能够回答各种问题、提供信息和进行对话。如果您有任何问题或需要帮助，请随时告诉我，我会尽力提供支持。


>>> 给我做一首关于春天的诗，要求是7言律诗
春天的阳光明媚，
绿草如茵，鲜花盛开。
春风吹过田野，
稻谷摇曳生姿。
小鸟在树梢上欢快地歌唱，
春风轻轻地吹拂着它们的羽毛

不满意，再来一下

>>> 给我做一首关于春天的诗，要求是7言律诗
春风拂面轻，