golang
文章平均质量分 76
fly-iot
没什么大不了,一直写代码。
展开
-
【LocalAI】(3):LocalAI本地使用Model gallery,对qwen模型进行配置,使用modescope源下载,本地运行速度快。特别简单!
在linux上使用一个二进制文件,成功运行embeddings和qwen-1.5大模型,速度特别快,有gitee配置说明。它允许您在本地使用消费级硬件运行 LLM(不仅如此),支持与 ggml 格式兼容的多个模型系列。支持CPU硬件/GPU硬件。LocalAI 是一个用于本地推理的,与 OpenAI API 规范兼容的 REST API。本身localai的后端实现就是 llama.cpp ,所以也可以支持qwen大模型。modelscope.cn 进行下载,速度会更快。支持gguf的量化版本。原创 2024-04-09 09:07:38 · 800 阅读 · 0 评论 -
【LocalAI】(3):终于研究明白了!超级简单!在linux上使用一个二进制文件LocalAI,成功运行embeddings和qwen-1.5大模型,速度特别快,有gitee配置说明
【LocalAI】(3):超级简单!在linux上使用一个二进制文件,成功运行embeddings和qwen-1.5大模型,速度特别快,有gitee配置说明。它允许您在本地使用消费级硬件运行 LLM(不仅如此),支持与 ggml 格式兼容的多个模型系列。支持CPU硬件/GPU硬件。LocalAI 是一个用于本地推理的,与 OpenAI API 规范兼容的 REST API。原创 2024-04-09 09:00:21 · 858 阅读 · 0 评论 -
【wails】(10):研究go-llama.cpp项目,但是发现不支持最新的qwen大模型,可以运行llama-2-7b-chat
编译成功,虽然有一点 warning 警告信息,问题不大。原创 2024-03-23 23:41:18 · 694 阅读 · 0 评论 -
【ollama】(4):在autodl中安装ollama工具,配置环境变量,修改端口,使用RTX 3080 Ti显卡,测试coder代码生成大模型
Ollama 是一个强大的框架,设计用于在 Docker 容器中部署 LLM。Ollama 的主要功能是在 Docker 容器内部署和管理 LLM 的促进者,它使该过程变得非常简单。它帮助用户快速在本地运行大模型,通过简单的安装指令,可以让用户执行一条命令就在本地运行开源大型语言模型,例如 Llama 2。速度哦还是挺快的,经过一段时间的等待就可以服务启动成功了。原创 2024-03-12 22:45:35 · 5466 阅读 · 0 评论 -
【ollama】(3):在linux搭建环境中,安装golang开发的ollama工具,并且完成启动下载gemma:7b和qwen:1.8b运行速度飞快,支持http接口和命令行模式
然后因为是docker 虚拟环境,需要手动启动服务: ollama serve。项目使用golang+llama.cpp 项目进行开发的。有切换的时间,模型会重新载入到显存。简化了模型的安装,非常的方便。可以发现 支持中文效果也不错。然后启动 gemma:7b。原创 2024-03-12 08:53:01 · 2356 阅读 · 0 评论 -
【ollama】(2):在linux搭建环境,编译ollama代码,测试qwen大模型,本地运行速度飞快,本质上是对llama.cpp 项目封装
然后经过漫长的编译,就而可以生成了在 build 文件夹。里面有相关的liib库了。框架本质上还是使用了 llama.cpp 项目的。需要编译 llama.cpp 的代码,原创 2024-03-09 23:05:45 · 2541 阅读 · 2 评论 -
【wails】(9):经测试可以使用wails进行跨平台编译,目前支持linux,windows平台,不支持mac,且目前的cgo不支持跨平台编译。其他有纯go版本的llama.cpp项目
报错,没有找到库,但实际上有代码。估计下一个版本会支持。原创 2024-03-05 09:00:37 · 911 阅读 · 0 评论 -
【wails】(8):发现一个用golang重写llama.cpp的llama.go项目,经测试支持f32模型,半年未更新,找到llama.cpp对应的版本,可以转换f32模型
golang 的代码可以执行 f32 的模型,但是不能执行 f16 和 int4 的模型。这部分工作并没有开发完成。因为模型 有 26G 所以使用 CPU 执行速度并不快,有 0.37 tokens/s。项目目前看已经 10 个月没有更新了。从代码量看,确实都不算太多。可以研究研究里面的算法。原创 2024-03-01 08:21:45 · 896 阅读 · 0 评论 -
【wails】(7):研究发现一个新的项目llama.go,使用纯golang写的代码,下载模型文件,然后可以本地执行了,可以执行,就是模型文件26G,运行速度慢 0.37 token/s
然后在autodl上申请服务器,选择 30G内存的服务器:# 克隆项目: git clone https://github.com/gotzmann/llama.go.git # 然后进入 cd llama.go/ # 执行 make # 然后在 builds 目录里面就有了三个文件: ls builds确实是能运行,目前看不支持最新的 GGUF 文件格式。同时是非量化版本 f32 的,造成模型比较慢。而且这个是 llama的第一代的产品。要是有二代的模型且 int4 版本的就好了。原创 2024-02-27 23:29:56 · 363 阅读 · 0 评论 -
【wails】(6):研究发现一个新的项目llama.go,使用纯golang写的代码,可以支持win,linux,mac平台运行,理论可以运行llama2大模型
关于项目:https://github.com/gotzmann/llama.go确实是因为研究使用 c++ 在win 上面安装环境,折腾的时候特别的麻烦所以找到了这个使用 纯golang 编写的llama 模型执行项目 MIT 协议。golang 环境安装:其实就是执行了三次 go build 命令:3,下载模型,然后运行测试目前可能之支持使用 llama 模型:https://modelscope.cn/models/Xorbits/Llama-2-7B-Chat-GGML/files下载模型原创 2024-02-27 08:38:20 · 659 阅读 · 0 评论 -
【wails】(5):使用wails做桌面应用开发,开发接口api函数,启动新本地服务端口9999,使用gin+go-chatglm.cpp进行本地模型运行,返回api接口,在linux上运行成功
参考的代码是 提到的 issues。/session 接口。原创 2024-02-25 20:14:45 · 779 阅读 · 0 评论 -
【wails】(4):使用wails做桌面应用开发,整合chatgpt-web项目做前端,进行本地开发,web端也可以连调,使用websocket实现
使用 wails 和 chatgpt-web项目 整合还是非常容易的。可以封装成接口路径地址。然后返回信息。原创 2024-02-23 21:41:42 · 788 阅读 · 0 评论 -
【wails】(3):解决 go-chatglm.cpp 项目部署编译的问题,在Linux本地环境成功运行,可以使用CPU进行模型训练,速度还可以,后续可以将模型继承到wails项目中
【代码】【wails】(3):解决 go-chatglm.cpp 项目部署编译的问题,在Linux本地环境成功运行,可以使用CPU进行模型训练,速度还可以,后续可以将模型继承到wails项目中。原创 2024-02-21 22:02:34 · 533 阅读 · 0 评论 -
使用go-llama.cpp 运行 yi-01-6b大模型,使用本地CPU运行,速度挺快的
LaMA.cpp 项目是开发者 Georgi Gerganov 基于 Meta 释出的 LLaMA 模型(简易 Python 代码示例)手撸的纯 C/C++ 版本,用于模型推理。所谓推理,即是给输入-跑模型-得输出的模型运行过程。无需任何额外依赖,相比 Python 代码对 PyTorch 等库的要求,C/C++ 直接编译出可执行文件,跳过不同硬件的繁杂准备;虽然模型回答的不太对,但是可以运行了,速度确实还可以。那么,纯 C/C++ 版本有何优势呢?具有 F16 和 F32 的混合精度;原创 2024-02-19 23:55:22 · 1398 阅读 · 0 评论 -
【wails】(1):使用go做桌面应用开发,wails框架入门学习,在Linux上搭建环境,运行demo项目,并打包测试
Wails 是一个可让您使用 Go 和 Web 技术编写桌面应用的项目。将它看作为 Go 的快并且轻量的 Electron 替代品。您可以使用 Go 的灵活性和强大功能,结合丰富的现代前端,轻松的构建应用程序。同时golang 开发相对友好些,各种库都十分丰富,也是一个非常不错的选择。原创 2024-02-19 20:43:46 · 1995 阅读 · 0 评论 -
【goframe】(4):使用goframe 接入grpc服务,非常的方便,可以简单的构建和生成服务代码,并且启动方法也特别简单,使用代码本地调用成功
未经博主允许不得转载。grpc 的服务确实比其他服务开发麻烦一点点。主要是proto工具的安装和配置。但是掌握了之后就发现也是非常的方便的,同时可以支持多种语言的互相调用。同时有了goframe 的工具集成,更容易了,直接帮忙把配置服务。都帮忙写了,剩下就可以去编写业务逻辑了,非常方便。值得推荐。原创 2023-06-07 22:29:07 · 1275 阅读 · 0 评论 -
【goframe】(2)实现上下文原理,在chatgpt中,经过折腾研究,要做好上下文需要把之前的信息都存储上,再一起发送过去就可以了
chatgpt开发对话上下文,一定要把数据都存储上。使用比较原始的方法,直接在controller 上面编写dao 方法。可以把上下文信息都保存起来,这样在查询的时候非常的方便。原创 2023-03-30 23:18:17 · 6147 阅读 · 1 评论 -
【goframe】(1)API相关接口技术调研,使用新框架goframe非常简单就能实现chatgpt接口调用,同时封装对象结果返回并解析
goframe里面有很多非常实用的工具类,可以非常方便的解决开发中遇到的问题。类似spring 库和 apache 库,都哟非常丰富的基础类,同时文档非常强大。可以直接使用即可。原创 2023-03-28 00:27:56 · 1190 阅读 · 0 评论 -
发现一个不错的golang框架,文档非常详细,自带代码生产dao工具,可以快速的进行项目开发,还有社区也是非常的活跃
GoFrame是一款模块化、低耦合设计的开发框架,包含了常用的基础组件和开发工具,既可以作为完整的业务项目框架使用也可以作为独立的组件库使用。我们为大家提供的快速开始章节,主要以完整的业务项目介绍框架的基本入门和使用。关于独立组件库使用,可以查看独立的组件章节介绍。go installgfUSAGEOPTION会启动web端口在8000,接口和 api 都有。goframe框架还是一个非常不错web框架,同时也尽可能的把开发需要的工具。原创 2023-03-22 23:48:30 · 820 阅读 · 0 评论 -
【golang音频库】发现了一个特别棒的音频库,beep,使用docker方式驱动设备,可以使用golang进行控制音频设备,播放音乐。
可以使用golang 然后控制音频,播放音乐,也是非常不错的库,库也是非常的强大。可以需要在linux上,调用alsa的库,然后播放音频mp3文件。原创 2023-03-20 21:51:03 · 3161 阅读 · 1 评论 -
【studygolang】(1):开源golang写的BBS论坛代码部署研究,使用docker-compose进行编译构建,并启动完成论坛安装,可以注册admin帐号。获得积分发帖了。
未经博主允许不得转载。完成度非常高的BBS论坛,有很多实用的功能,部署也是非常的方便的。源代码加上docker-compose可以非常方便的部署起来。部署完成之后支持快速安装,可以使用admin帐号进行登陆。要是本地测试密码可以使用简单些,要是线上的服务,密码要复杂。能完成论坛的很多功能了。非常适合实际使用的场景。特别好。原创 2023-03-16 00:17:26 · 561 阅读 · 1 评论 -
【casnode】(3):切换回默认证书,解决casnode论坛的登陆跳转问题,可以正常登陆/注册了。
终于折腾明白整个论坛了,同时使用最简单的办法,使用docker-compose的方式把相关的服务。docker-compose的配置文件已经提交了:casdoor和casnode服务都跑起来。同时了解到casdoor是非常不错的管理帐号的服务。收获还是非常多的。原创 2023-03-12 20:16:31 · 450 阅读 · 0 评论 -
【casnode】:(2)casnode和casdoor配置成功,论坛可以进注册登陆,通过配置修改即可,去掉邮箱和手机号验证,可以进行注册,登录回调有点问题,继续研究。
论坛casnode需要 casdoor 进行权限控制,需要进行登陆页面展示。最重要的技术 clientId 和 clientSecret 和对应的服务器地址。然后就可以进行跳转了。但是还差一点callback的校验。就可以跳转成功了。原创 2023-03-11 14:33:47 · 417 阅读 · 0 评论 -
【casnode】(1):开源BBS技术调研,使用docker-compose启动casdoor项目和casnode项目,可以登陆进行权限控制,bbs也正常显示,继续研究中。
未经博主允许不得转载。看着项目还是不错的,使用前后端分离的技术进行开发的。前端使用reactjs 开发,后端使用golang + beego 进行开发。还没有看代码,可以使用docker-compse通过镜像把项目跑起来。而且apache2.0开源的项目,虽然现在论坛不 流行了,但是也有很多地方需要BBS。而且还支持多语言。原创 2023-03-10 23:29:12 · 531 阅读 · 0 评论 -
【fly-iot】(1):调研使用云IOT的费用,还真的不是一般企业可以用的起的,用起来非常的贵,使用开源软件进行替换能够大量节省成本,但是:省钱费事,省事费钱。
调研物联网平台,调研云IOT的费用,用起来非常的贵,但是:省钱费事,省事费钱。原创 2023-02-25 08:41:13 · 477 阅读 · 0 评论 -
研究了半天发现还是使用beego框架顺手,虽然不是新框架但是用着非常方便,做个小的后台运维系统不在乎美观的
想开发一个使用golang 用的管理后端,发现还是使用beego开发方便。每个框架都有自己适合的地方。现在很多项目都在使用 api + vue 前后端分离的方式进行开发,微服务的方式开发。但是也有些场景可以使用 刷新页面的方式开发。节约时间成本。如果你是老老程序员,还会jquery,可以尝试下。如果你要新学习的话,直接vue做项目,然后启动两个工程吧,就别学jquery了。原创 2023-02-22 09:03:24 · 517 阅读 · 0 评论 -
【go-zero】(1):尝试使用go-zero的工具goctl进行model,controller代码生成,配置数据库,实现FindAll方法,查询数据库全部数据
总体上感觉 go-zero 还是比较好上手的,使用起来也是非常的方便,但是 curd 的 model 里面的查询略少。而且没有分页查询的数据,需要自己组装。把分页其他的啥的模板都修改下。还是非常不错的框架的。慢慢学习中。原创 2023-01-20 08:19:26 · 3343 阅读 · 0 评论 -
【golang】 demo 之王realworld,使用golang+gin做后端技术,使用vue做前端项目的开源博客项目
realworld 项目还是不错的,但是前端和后端的匹配还不是特别好。需要自己去解决问题,解决问题的过程就是学习的过程。再有这些接口用例都要自己动手去写,这样才可以学习到技术。原创 2022-12-11 16:18:38 · 1408 阅读 · 0 评论 -
【golang】go-admin系统进行项目开发,还是一个非常不错的项目,使用golang做管理后台,非常方便项目的快速搭建,基础功能鉴权已经完善了,就需要开发相关的业务逻辑即可。
非常强大的golang 管理系统,使用gin进行项目开发,同时完成了基本的权限,角色,日志管理等非常多的功能。还集成了swagger 接口开发。非常容易使用,源代码已经开放了,直接可以用来做个内部系统然后再进行二次开发了。原创 2022-11-22 12:12:28 · 2540 阅读 · 0 评论 -
【EdgeX(16)】 :边缘计算,工业4.0,golang开发,使用Apache PLC4X项目对PLC设备进行modbus协议对接,实现读取和发送代码学习中
golang 感觉上要是使用其他语言也可以实现和plc 进行数据对接的。使用golang 进行开发的好处是可以方便、快速的进行数据上报,接口联调。做边缘计算,做云计算。打造工业化4.0服务。原创 2022-11-11 11:47:40 · 2257 阅读 · 0 评论 -
【EdgeX(15)】 :在EdgeX环境下配置eKuiper规则引擎服务,配置规则处理device-virtual发送的数据,并转发给HTTP服务
总体来说 EdgeX的eKuiper 规则引擎使用起来是非常的方便的。通过和 EdgeX 深度整合,可以直接转换调用成各种方法,也可以自定义转发到 rest mqtt mq 等地方。同时可以接收到device-virtual的数据。正个流程也非常清晰方便。原创 2022-11-01 23:53:32 · 1177 阅读 · 0 评论 -
使用goroslib库,订阅ROS消息并解析,找到相关的里程计Odometry类,并成功解析消息,使用golang实现四元数到欧拉角的转换
只要找到先关的对应方法,就可以把消息正确的解析出来,各种的消息信息 goroslib 已经都有了,只需要找到相关的消息类,然后订阅下就可以。通过里程消息后,再进行转换就可以变成 欧拉坐角了。原创 2022-10-11 21:50:23 · 458 阅读 · 0 评论 -
【iot-manager】(1)IOT商业化和未来竞争、淘汰还在继续,需要折腾一个开源IOT系统,参考Rancher开源Octopus:IoT设备管理系统做一个物联网管理系统
IOT还是有很多地方可以使用的。同时国家也在加强信息化建设,做个开源的IOT管理系统,方便内网部署。可以在不同云直接进行切换。省得发生像google iot core 一样的事情。起一个大俗名,就叫 iot-manager 项目:使用rancher的开源项目Octopus进行二次开发,再迭代完善。原创 2022-09-18 14:28:56 · 3015 阅读 · 0 评论 -
EdgeX(10) :Xubuntu-22 linux系统安装EdgeX2.1相关服务,服务都比较小,下载启动速度快。
在xubuntu 22 linux 系统上安装 edgex 2.1 相关服务。EdgeX 2.1 做了很多优化。相比 2.0 起码优化docker-compose 文件,都是要docker官方的镜像进行下载了。总体上界面感觉没有太大的变化。毕竟也是小版本升级。然后开发相关服务。...原创 2022-08-08 17:14:21 · 594 阅读 · 0 评论 -
【kratos学习】从零使用kratos创建一个CRUD的demo,是gorm做数据库操作,经过几天研究,调试代码开源放到github上,还是非常方便的。服务也实现了CRUD的http接口。
目录前言1,关于kratos2,使用4,使用 grpcul进行服务查看调用5,创建数据CRUD使用gorm本文的原文连接是:https://blog.csdn.net/freewebsys/article/details/124262158未经博主允许不得转载。博主地址是:http://blog.csdn.net/freewebsys1,关于kratosKratos 一套轻量级 Go 微服务框架,包含大量微服务相关框架及工具。原创 2022-04-25 09:07:09 · 1596 阅读 · 3 评论 -
【kratos】kratos 框架使用新的,还是非常好的技术框架,还要继续学习,掌握了proto 文件的使用、wire的使用就方便了。
1,使用的kratos 版本是:v2.2.1使用项目创建一个带web端和 grpc 服务的。 使用 wire 进行依赖注入。kratos 的官方网站是:https://go-kratos.dev/docs/https://go-kratos.dev/blog/go-project-wire使用之后,这个是和 java 的spring 依赖注入最大的区别的地方。 开始没有太明白,后来才发现确实是非常的好用。 要突破 java 的那种思维,去找 xml 进行配置。也不用 autowired resou原创 2022-04-18 19:23:57 · 4026 阅读 · 0 评论 -
Linux 环境中安装 ORC 库,golang读取orc文件,做大数据处理学习准备
目录前言1,关于ORC库2,安装使用3,golang代码4,orc总结前言本文的原文连接是:https://blog.csdn.net/freewebsys/article/details/124121247未经博主允许不得转载。博主地址是:http://blog.csdn.net/freewebsys1,关于ORC库网站地址:https://orc.apache.org/ORC的全称是(Optimized Row Columnar),ORC文件格式是一种Hadoop生态圈中的列式存储格原创 2022-04-12 14:28:06 · 1098 阅读 · 0 评论 -
EdgeX(9): 使用最新的 edgex2.0干啥,硬件是一方面,重要的另外一方面是软件的匹配,也要做好相关的开发,新的API V2接口学习,实现设备的注册、服务的注册
目录前言1,关于edgex2.02,使用2.0 http api 注册3,swagger HTTP API4,总结前言相关EdgeX Foundry 全部分类:https://blog.csdn.net/freewebsys/category_9437788.html本文的原文连接是:https://blog.csdn.net/freewebsys/article/details/120615729未经博主允许不得转载。博主地址是:http://blog.csdn.net/freewebsy原创 2021-10-05 22:23:42 · 755 阅读 · 0 评论 -
golang 比较完美的通用框架,kratos v2.0 学习,一套轻量级 Go 微服务框架,包含大量微服务相关框架及工具。涵盖了互联网开发的常用功能模块的开发库。
目录前言1,关于kratos v2.02,Principles 原则2,Features 特色3,Architecture 架构4,总结前言本文的原文连接是:https://blog.csdn.net/freewebsys/article/details/120464687未经博主允许不得转载。博主地址是:http://blog.csdn.net/freewebsys1,关于kratos v2.0官网地址:https://go-kratos.dev/docs/github地址:htt原创 2021-09-24 23:48:39 · 3550 阅读 · 1 评论 -
EdgeX(8): 使用最新的 edgex2.0 在 ubuntu 上进行部署,替换私服地址nexus3.edgexfoundry.org 成 docker官方地址,解决下载问题。有了新UI界面
目录前言1,关于EdgeX2.02,安装docker 和docker-compose3,安装使用文档4,发现一个问题,新的yml使用了nexus3.edgexfoundry.org私服地址,网速特别慢切换成docker官方地址5,新系统ui http://127.0.0.1:4000/#/dashboard6,总结前言相关EdgeX Foundry 全部分类:https://blog.csdn.net/freewebsys/category_9437788.html本文的原文连接是:https:原创 2021-08-27 19:13:44 · 1520 阅读 · 1 评论