freewebsys的专栏

编译成功，虽然有一点 warning 警告信息，问题不大。

使用 candle还是非常方便的，使用另外一种方案运行大模型。使用 cpu 速度就慢多了。

步骤三：设置 crates.io 镜像， 修改配置 ~/.cargo/config，已支持git协议和sparse协议，>=1.68 版本建议使用 sparse-index，速度更快。需要返回标准的 openai api 接口了。整合 tauri 代码和 actix。实现了 server::init。配置rust环境方法。

开源的Chatgpt-web应用。关于tauri 框架。

报错，没有找到库，但实际上有代码。估计下一个版本会支持。

关于项目：https://github.com/gotzmann/llama.go确实是因为研究使用 c++ 在win 上面安装环境，折腾的时候特别的麻烦所以找到了这个使用 纯golang 编写的llama 模型执行项目 MIT 协议。golang 环境安装：其实就是执行了三次 go build 命令：3，下载模型，然后运行测试目前可能之支持使用 llama 模型：https://modelscope.cn/models/Xorbits/Llama-2-7B-Chat-GGML/files下载模型

参考的代码是 提到的 issues。/session 接口。

使用 wails 和 chatgpt-web项目 整合还是非常容易的。可以封装成接口路径地址。然后返回信息。

【代码】【wails】（3）：解决 go-chatglm.cpp 项目部署编译的问题，在Linux本地环境成功运行，可以使用CPU进行模型训练，速度还可以，后续可以将模型继承到wails项目中。

Wails 是一个可让您使用 Go 和 Web 技术编写桌面应用的项目。将它看作为 Go 的快并且轻量的 Electron 替代品。您可以使用 Go 的灵活性和强大功能，结合丰富的现代前端，轻松的构建应用程序。同时golang 开发相对友好些，各种库都十分丰富，也是一个非常不错的选择。

请前往 https://www.rust-lang.org/zh-CN/tools/install 来安装 rustup (Rust 安装程序)。请注意，为了使更改生效，您必须重新启动终端，在某些情况下需要重新启动 Windows 本身。在windows 上需要安装 cpp 工具。

最后就是12 mb的 文件，包括了htm。确实特别的小，运行速度快。这个函数使用的 rust 处理的，但是前端 vue 项目进行调用的。说明这个并不是 ajax 调用，而是直接调用 rust 的 函数。修改配置文件：把 com.tauri.dev 修改成其他的就行。虽然也有构建失败，但是已经生成了 二进制文件。类似java 的 jni 方式调用 c 函数。在windows 上需要安装 cpp 工具。在linux 上，需要安装 webkit2。只是没有打包成 AppImage 文件。