AI_Gump的博客

还有一些方言在阿里云上找了下，基于官方demo改了一下。最近要做一些普通话和方言demo。

创建应用有2种，从应用模板创建空白应用，也就是自定义应用选择翻译助手 Translation assistant模板创建一个应用自定义应用，创建一个child_accompany_bot自定的应用；选择【发布】-【运行】，则进入发布页面进行对话。

Ollama可以本地部署模型，如何集成私有数据、如何外部应用程序对接，因此需要有一个应用开发框架。ip地址需要换成自己电脑的IP地址；模型名称需要和Ollama模型名称保持一致；docker是虚拟环境的主机，Ollama部署在本地主机，无法通过本机访问。找到Ollama，配置本地Ollama已经验证的模型，如phi3。在docker页面里面，也可以看到running。docker已经安装完成的情况下。，打开dify，注册登录后。在工作区选择调用即可。

由于我电脑是第六代Intel，集显，没有独立显卡；这里选择3B比较小的模型，防止模型太大响应太慢；在Window系统的PowerShell软件，或者Windows Terminal中输入命令。安装默认在C盘，成功后，window任务栏图标会有Ollama Logo。open WebUI的安装有很多方法，如下文，推荐docker容器安装，为了不占用C盘更大的空间，修改模型下载路径，修改环境变量。此处使用微软的phi3模型，3B的版本，2.4GB大小；首次安装完成，就进入了，运行模型的窗口。